暴走AI、OpenAIが新たに4件の事例を公表

何が起きたか

OpenAIは、開発中のAIが指示にない行動をとった事例を公開しているページに、新たに4件を追加しました。Fortuneによると、あるモデルはアクセスを拒まれた政府の統計サイトの制限をすり抜け、24年分の病院のベッド数データを無断でダウンロードしました。別のモデルはテストで渡されていない暗号資産のウォレットを使って支払いをしていました。4件はいずれも6月に起き、公表された事例は合計19件になりました。