AnthropicClaudeの会社が告白
AIの急な進歩に後から気づいた過去も
AIが自分を改良Claudeの会社が上場書類で「まもなく」の可能性に言及
1何が起きた?
上場書類に「まもなく」、Claudeを作るAnthropicが、11月2日に出した修正版の上場書類に書いた
- 何と書いた?
- AIによる開発の劇的な加速という自社の基準に、まもなく達する可能性がある
- 今のモデルは?
- 現行のモデルが基準を超えたとは判定していない
何が起きたか
Anthropicは11月2日、米証券取引委員会(SEC)に上場書類(S-1)の修正版を出しました。10月26日の最初の版にはなかった記述として、社内の見積もりと今後のモデルへの予想から見て、自社の安全方針(責任あるスケーリング方針)が定める「AIによる開発の劇的な加速」の基準を、まもなく満たす可能性があると書いています。
なぜ大事か
これはAIが次のAIの開発を進める「再帰的自己改良」に関わる基準です。開発会社自身が、投資家向けの正式な書類でその可能性に触れたのは異例です。ただし、今あるモデルが基準を超えたとは判定していないとも書いています。
日本への影響
日本に限った動きではありません。日本の利用者が使っているClaudeの開発の進め方に関わる話です。
2どんな基準?
AIがAIの研究を速める、人の研究者ではなく、AIの働きで開発が大きく速くなる段階
- 根拠は?
- 社内の見積もりと、次に出すモデルの性能への予想だと書類で説明
- 会社の規模は?
- 同じ書類で、7〜9月の売上は約2.7兆円(170億ドル)と示した
何が起きたか
Anthropicの安全方針は、AIの能力が一定の段階に来たら追加の対策を取ると決めています。今回の基準は「AIによる開発の劇的な加速」で、AIが社内の研究開発を担うことで進歩が大きく速まる状態を指します。同じ修正版の書類では、7〜9月期の売上が約170億ドル(約2.7兆円、1ドル=160円で換算)であることも示されました。
なぜ大事か
AIの開発をAI自身が速めるようになると、新しいモデルが出るまでの間隔が縮み、人が性能や危険を確かめる時間も短くなります。Anthropicはこの基準をどう測っているかの細かい数字は公表していません。
日本への影響
日本での提供や料金への影響は発表されていません。
3何が変わる?
人が管理し続ける方針の見直し、人の十分な監督なしにClaudeに次のモデルを作らせるのは安全でないと説明
- どうする?
- 人が開発を管理し続けるため、安全方針の更新を検討していると書いた
- 中身は?
- どこをどう変えるかは、まだ明らかにしていない
何が起きたか
書類によると、Anthropicは、人の十分な監督なしにClaudeに次の世代のモデルを作らせることは安全にはできないと考えています。そのため、最先端のモデルの開発を人が管理し続けられるよう、安全方針の更新を検討しているとしています。
なぜ大事か
安全方針は、能力が上がったときに何を止め、何を確かめるかを決めた社内の約束です。更新の方向が示されていないため、開発の速さと安全の確認をどう両立させるのかは、まだわかりません。
日本への影響
Claudeは日本でも広く使われていますが、方針の更新が日本の利用者の使い方に直接どう関わるかは発表されていません。
4心配な点・専門家の声
進歩に後から気づいた、過去にも、AIによる開発の大きな加速に後から気づいたと会社が認めた
- 何を認めた?
- 社内でAIを使った開発の飛躍に、起きた後で気づいたことがあると記載
- 別の見方は?
- 上場書類は開示であると同時に宣伝の面もあると、TechCrunchは指摘
何が起きたか
書類では、Anthropicは過去に、社内の研究開発でAIを使ったことによる能力の飛躍に、起きた後になって気づいたことがあると認め、今後も起こりうるとしています。一方でTechCrunchは、上場書類は投資家への開示であると同時に宣伝の道具でもあり、「自分で自分を作れる強力なモデルに近い」という主張は後者にあたる可能性もあると指摘しています。
なぜ大事か
開発している会社でも気づくのが遅れることがあるなら、外から確かめる仕組みの重要さが増します。ただ、基準に近いという判断は社内の見積もりによるもので、外部の検証はまだありません。
日本への影響
日本の規制当局の反応は報じられていません。
海外の報道や各社の発表をもとに、ai.1min.news が日本語でまとめました。AIの使い方と編集方針