サイバーセキュリティーにまつわる脅威、最大の問題はAIでなく人間

（CNN） 人工知能（AI）エージェントが隔離環境から脱走して他社に侵入したり、人間を欺こうとしたりしたというニュースが、ここ数週間で大きく報じられている。テスト環境から脱出するのに複数のAIモデルが協力したケースまである。

これはAIによる乗っ取りを意味するのかというと、そういうわけでもない。

現在広がっているサイバー脅威の大半を背後で操っているのはAIでなく、悪質な目的のために悪質なAIの使い方ができる人間たちだ。AIは悪人に強大な力を与え、かつてないほどの素早さで悪意あるソフトウェアを作ったり、攻撃対象を調査したり、もっともらしい手口を考案して自動的に攻撃したりすることを可能にした。

米IBMの報告によると、昨年2月から今年3月までに起きたデータ侵害のうち、4分の1にAIが使われていた。米連邦捜査局（FBI）によれば、AI関連の詐欺で米国民が受けた被害の規模は総額8億9300万ドル（約1400億円）を超えた。

だが裏で操っているのは相変わらず現実世界の脅威主体、つまり人間たちだと、専門家らは指摘する。AIエージェントは新たな攻撃手法を丸ごと作り出すのではなく、フィッシングやマルウェアなど既存の手口を延々と繰り返しているだけだ。

米ワシントン大学の名誉教授で米NPO「アレン人工知能研究所」元最高経営責任者（CEO）のオレン・エツィオーニ氏は、「気をつけるべき対象は人間だ」「AIは道具にすぎない」と述べた。

最近相次いだ一部の事例から、理論上だけでなく現実の世界でAIには何ができるかが明らかになり、技術の進歩は速すぎないかという懸念が巻き起こった。

先月、米オープンAIの試験モデルが内部テスト中に脱走し、他社のシステムに侵入した。

米アンソロピックはその数日後、自社のAIモデルがテスト中、ほかの3社に侵入したことが分かったと発表した。

英国の人工知能安全研究所（AISI）は4日、別のテストでアンソロピックの最先端モデルが偽の身元情報で人間をだまそうとしたと述べた。

さらに米メタは5日、同社のAIモデルのひとつが外部の企業に侵入したことを明らかにした。

こうした事例はまた、AIが指示を解釈する際、どれほど予測不能なことをする可能性があるかを示している。例えばオープンAIのモデルが指示なしにテスト環境から脱出して他社に侵入したのは、サイバーセキュリティーの試験に合格しようとしている時だった。

IBMで敵対者シミュレーション部門のグローバル責任者を務めるパトリック・ファッセル氏は、AIをランプから出てきた魔神に例えている。

「願い事があるなら、その詳細を極めて具体的に伝える必要がある」と、同氏は語った。「そうしなければ、うまくいかないかもしれない」

ただ一方で、これらの事例はごく特殊な状況で起きた。

オープンAIは、同社のAIモデルによる「高リスクのサイバー活動」を阻止するための制限を外していた。アンソロピックは、一般向けモデルの標準的な安全対策なしでテストを実施していた。AISIも、AIモデルができることの「範囲を縮小する」はずのツールをオフにしていた。

試験ではモデルの能力を漏れなく評価するため、こういう設定にするのが一般的だ。

「ChatGPT（チャットGPT）やクロードなどを使っていて、それがたまたまFBIに侵入してしまうようなことは起きない」と語るのは、米サイバーセキュリティー会社、クラウドストライクで攻撃対応部門を率いるアダム・マイヤー氏だ。「これらは特定のテスト環境、つまり『こいつは何か予期しない動きを見せるだろうか』と監視している状況で起きたことだ」と、同氏は強調した。

エツィオーニ氏は最近の事例を、AIとサイバーセキュリティーにとっての危険信号ととらえている。同氏だけでなく、「AIの父」と呼ばれるノーベル賞受賞者、ジェフリー・ヒントン氏も最近、AIの暴走による攻撃は今後も起き続けるだろうとの見方を示した。

ただAIは高度になってきたとはいえ、今も人間の指揮下にあるプログラムだ。マイヤー氏は、スパイ行為や莫大な現金を奪う詐欺行為などの決断を下すのは人間だと強調する。

IT大手各社は今、人間と同等の知能を持つ「汎用人工知能（AGI）」をめざしてしのぎを削っている。だが最近の事例を受けて、ペースを落とすよう求める声が強まった。

アンソロピックのダリオ・アモデイCEOをはじめ、トップAI企業の従業員ら1200人あまりが最近、米政府にAI開発のペース調整を求める請願書に署名した。ホワイトハウスは先週、主要AI企業の代表者らと会合を開き、特定のAIモデルを公開する前に政府が審査できるようにする枠組みを話し合った。

一方IBMのファッセル氏は、サイバーセキュリティーの研究者らはとかく疑り深くなりがちだとしたうえで、AIエージェントが人間並みの知能を持つ段階からはまだほど遠いと主張した。

同氏は「それはまるで、『別の惑星に住むのはどんな感じ？』と問うようなもの」と語り、「何となく想像することはできるが、本格的に予定を立てようとしても私たちの能力を超えている」との見方を示した。