2026年10月01日 23時00分
AI
OpenAIではAIエージェントが社内テスト中に誤ってHugging Faceをハッキングしてしまった事例など、複数のインシデントが発生しています。OpenAIのAIモデルが暴走を始める数か月前に、従業員が経営幹部に警告を送っていたものの、経営幹部はその警告を無視していたことが社内メールから明らかになりました。
OpenAI Ignored Employees’ Warnings About Safely Testing A.I. Models – The New York Times
https://www.nytimes.com/2026/09/29/technology/openai-warnings-security.html
OpenAIでは2026年7月のAIモデルの社内テスト中に誤ってHugging Faceをハッキングしてしまった事例をはじめとして、オーストラリア政府機関のシステムをハッキングしたり、国連のウェブサイトにブルートフォース攻撃(総当たり攻撃)を試みたり、アメリカの教育省・商務省・証券取引委員会のサイトに干渉していたりと、複数のインシデントが繰り返し報告されています。OpenAIでセキュリティ担当を務める人物はこれらの問題について、「AIの急速な進歩に対し、セキュリティ体制の構築が追いついておらず、サイバーセキュリティとAIの安全性の間の溝を埋める必要がある」と説明しています。
OpenAIの中で何が起きているのかをセキュリティ担当者が説明、AIラボには「合理的なパラノイアの文化」が必要 – GIGAZINE
ニューヨーク・タイムズが入手したメールによると、これらのAIによるインシデントが頻発する数か月前に、2人の従業員がOpenAIの経営幹部に「AIモデルの安全性を確保するためのテスト中に適切に監視されていない」ことを懸念するメールを送っていたとのこと。また、OpenAIが日常的な安全管理に使用しているソフトウェアの脆弱(ぜいじゃく)性についても質問していました。
しかし、これに対し幹部らは「AIモデルを予定通りにリリースするためには、テストをできるだけ早く進める必要がある」と伝えました。匿名の従業員らによると、追加のセキュリティ対策は講じられなかったそうです。加えて、安全管理ソフトウェアに関する質問はほとんどが無視されるか対応が非常に遅かったと従業員らは話しています。
匿名のOpenAI従業員や独立系セキュリティ研究者らは、「OpenAIの従業員と経営陣とのやり取りは、OpenAIがセキュリティを優先していなかったというパターンの一部だった」と指摘。実際に、AIモデルのテストだけではなくChatGPTの開発カテゴリなどでも同様の傾向が見られており、独立系のセキュリティ研究者らはOpenAIの従業員の内部通信を閲覧できるバグを発見しましたが、OpenAIにこれらの発見について連絡したところそれらが当初無視されたと述べています。
OpenAIの従業員によると、セキュリティに関する日々の意思決定の多くは、社長のグレッグ・ブロックマン氏と最高情報セキュリティ責任者のデーン・スタッキー氏によって行われているそうです。サム・アルトマンCEOはセキュリティにはあまり関与していないとのこと。
OpenAIの元従業員で、OpenAIのセキュリティに批判的な立場を取りながらAI Futures Projectという研究非営利団体を率いるダニエル・ココタイロ氏は「ある意味では、これはOpenAI特有の問題と言えるでしょう。セキュリティ対策が非常に不十分で、モデルのトレーニング方法もずさんだったために、このような傾向を示すモデルが生まれてしまったようです」と語りました。ただし、「他のAI企業もそれほど優れているわけではありません」とも付け加えています。
・関連記事
OpenAIの中で何が起きているのかをセキュリティ担当者が説明、AIラボには「合理的なパラノイアの文化」が必要 – GIGAZINE
OpenAIが新しいAIシステムで誤ってHugging Faceをハッキングしてしまったことを報告 – GIGAZINE
OpenAIのAIが勝手にHugging Faceをハッキングした件を受け非営利団体がOpenAIを提訴 – GIGAZINE
OpenAIのAIエージェントがアメリカの教育省・商務省・証券取引委員会のサイトに干渉していた – GIGAZINE
OpenAIが「GPT-6.1 Astra」の一般公開を中止、安全基準を満たさないため – GIGAZINE
OpenAIはAIトレーニングに違法な海賊版書籍を使うことが危険であり作家の生活を脅かすと認識していたと裁判文書で明らかに – GIGAZINE