OpenAIの文化に懸念、安全性報告の責任者が退社

OpenAIの安全性報告書作成を統括していたデビッド・ロビンソン氏が、10月3日に退社したことを公表しました。同氏は米The Atlanticへの寄稿で、OpenAIの企業文化が壊れていると主張しています。安全性に関する企業の姿勢に対して、社内から警鐘を鳴らす動きが続いています。

退社の背景と理由

3年半在籍したロビンソン氏は、現行の枠組みの起草を主導し、12件のモデルで安全性報告を監督してきました。同氏はOpenAIの手法が試行錯誤であり、定期的な失敗を避けられない点に懸念を示しています。また、航空機や原子炉のように時間をかけた計画的な運営が不足していると訴えました。

安全性の課題と今後の活動

必要な改善として、他分野の専門知識の活用や、人間に代わって安全に判断する新たな科学の確立を挙げています。現時点の評価手法では良いモデルである保証にならないと指摘しました。同氏は今後、社外から企業の安全性を高めるための動機付けを行うとしています。

■ まとめ

OpenAIの安全性報告責任者が退社し、企業文化のあり方に疑問を呈しました。AI開発企業に対する安全性向上の議論が強まっています。