キーポイント
OpenAIの安全性に取り組んでいた従業員が、ここ数カ月の間に技術系企業を去っている。
イリヤ・スーツケバーとヤン・ライク-OpenAIを去った2人の著名人は最近、OpenAIの金銭的インセンティブについての懸念を共有した。
サム・アルトマンが復職して以来、同社の最も安全性を重視する従業員のうち5人が退職した。
OpenAIを含む主要AI企業が最近、ソウルAI安全サミットで「キルスイッチ」の実装を誓約したことは、AIシステムが有害または意図しない行動を示した場合、即座にシャットダウンするメカニズムを開発することを含む。Frontier AI Commitmentsの目標は、安全性を強化し、高度なAI技術の悪用を防止することである。
この取り組みは、多くのAI安全専門家がOpenAIを去ったという報告と時を同じくしている。これらの専門家の離職は、OpenAIの安全コミットメントの有効性と誠意について疑問を投げかけている。
OpenAIの従業員が退職
OpenAIが安全優先よりも金銭的インセンティブを重視していることへの懸念を理由に、複数の著名人がOpenAIを去った。共同設立者の一人であるイリヤ・スーツケバーとアラインメントチームを率いたヤン・ライクも5月に辞職した一人である。彼らの退社は、商業的利益とAI技術が安全で有益であることを保証する必要性とのバランスに関して、組織内で不満が高まっていることを浮き彫りにしている。
SutskeverとLeikeは『Economist』誌の論説で、規制が必要だと述べ、AI企業が自らを統治するのを放っておくことはできないと付け加えた。
最近、特にAIの安全性に深く関与している従業員の退職が相次いでいることは、社内の対立を浮き彫りにし、同社が掲げている安全性の目標に対するコミットメントに疑問を投げかけている。
注目された2人の退社は、2023年11月に始まった、オープンエイの取締役会がサム・アルトマン最高経営責任者（CEO）を解雇しようとして失敗した後の、より大きな退社の一部である。それ以来、安全性を重視する従業員がさらに5人ほど辞めたり、追い出されたりしている。
OpenAIへの信頼喪失？
こうした離職の理由は、AIに関する安全性への直接的な懸念にとどまらない。内部関係者によれば、第一の問題は、安全へのコミットメントに関するアルトマンのリーダーシップに対する信頼の喪失だという。
批評家たちは、アルトマンが安全性よりもAIの迅速な開発を優先していると評し、安全性チームの間でさらなる懸念が高まっている。彼の資金調達努力は、疑わしい人権記録のある体制からの投資を求めるなど、倫理的なAI利用に専念する従業員をさらに警戒させている。
超整列チームは共同創業者のジョン・シュルマンが率いている。シュルマンは既存製品の安全性維持に大きく関与しており、積極的な安全対策を講じる余地はほとんどない。この焦点とリソースの減少は、将来のAIリスクに効果的に対処するチームの能力を危うくする。この懸念は、リークが以前、今後のAIモデルとその社会的影響を管理するための準備とリソースの拡大を求めた際に強調したものだ。
この懸念は、同社が離職する従業員に対し、しばしば会社の株式を犠牲にして、非離職条項付きの離職同意書に署名するよう求めているとされる慣行によって、さらに悪化している。このポリシーは、従業員が遵守を拒否した場合、重要な金融資産を剥奪する可能性があり、不信感をさらに煽っている。
AI安全誓約は十分か？
Seul AI Safety Summit 2024で署名されたAIの誓約には、誤報に対抗するためにAIが生成したコンテンツに透かしを入れたり、公開前に独立した専門家によってAIツールの安全性をテストしたりするなどの他の安全対策も含まれている。これらの自主的な誓約は、世界的なAIの安全基準の先例を作り、AIに関連するリスクを軽減するためにハイテク企業と政府の協力を促進することを目的としている。
キルスイッチ」の誓約はAIの安全性にとって前向きな進展ではあるが、その影響は、それがどれだけうまく実施されるか、そしてオープンAIがこれらの安全対策を効果的なものにするために必要な専門知識を保持し、活用できるかどうかにかかっている。
過去数ヶ月の間にAIの安全性に精通した主要な人材が失われたことは、AI技術を取り巻く懸念を広く物語っている。これらの専門家の離職は、安全性とガバナンスへのアプローチに関する組織内の深い問題を示しているのかもしれない。
