こんにちは！半田貞治郎です。
## 事件の概要
警視庁は27日、インターネット上で公開されている対話型生成AI(人工知能)を悪用してコンピューターウイルスを作成したとして、川崎市に住む無職の25歳の男を不正指令電磁的記録作成容疑で逮捕した。[1][2][3][4][5] 男は複数の対話型生成AIに指示を出し、ウイルスの設計情報を回答させ、それらを組み合わせてランサムウェア(身代金要求型ウイルス)を作成したという。生成AIを悪用してウイルスを作成した事例の摘発は全国初とみられる。[1]
## 犯行の手口
捜査関係者によると、男は昨年3月、自宅のパソコンやスマートフォンを使い、対話型生成AIを通じて不正プログラムの設計情報を入手し、それらを組み合わせてウイルスを作成した疑いがある。[1] 作成されたウイルスには、攻撃対象のデータを暗号化したり、暗号資産(仮想通貨)を要求したりする機能があった。[1][4]
男は調べに対し、「ランサムウェアで金を稼ぎたかった。AIに聞けば何でもできると思った」と容疑を認めている。[1] しかし、このウイルスによる被害は確認されていない。[1]
## 生成AIの危険性
米OpenAIが公開する「ChatGPT」などの一部の生成AIは、犯罪に関する回答を引き出せないよう対応が強化されているが、ネット上には犯罪に悪用できる情報を無制限に回答する生成AIもあるとされる。[1] 男はAIにウイルス作成の目的を伏せた上で指示を出し、ファイルの暗号化や身代金要求に必要な設計情報を回答させていた。[1] 不正に回答を得る方法をネット検索で調べていたといい、警視庁は悪用された生成AIの性能も調べている。[1]
## 経緯
警視庁は3月、男をスマホの通信カードを不正に契約したとして詐欺容疑などで逮捕した際、自宅から押収したパソコンなどから自作のウイルスを発見した。[1] この事件の捜査の過程で、生成AIの悪用が判明したという。
Citations:
[1] https://www.yomiuri.co.jp/national/20240528-OYT1T50015/
[2] https://news.yahoo.co.jp/pickup/6502451
[3] https://www.nikkei.com/article/DGXZQOUE2802U0Y4A520C2000000/
[4] https://www.chunichi.co.jp/article/904882
[5] https://www.kochinews.co.jp/article/detail/747835
