デフォルトではexeアイコンはこんな感じですが。

特徴のあるアイコンにしてみました。

プログラム実行時も左上に表示されます。

素材はこちらからいただきました。
加工もOKということです。
hiyokoyarou.com
こちらで .icoファイルに変換します。
JPEG/PNG/GIFからアイコンを作成する「アイコン コンバータ」
ソリューションエクスプローラでソリューション名(ここではtwitter)を右クリックし、プロパティを開きます。

リソース¥アイコンとマニフェストを選択し、「アイコン」にファイルを選択します。
次にForm1.cs[デザイン]を選択し、プロパティの中にあるIconを選択し、.icoを設定します。
「リリース」を行えば完成。