「自己進化するAI」は目前か──Anthropicが警告する“RSI”の衝撃
米AI企業Anthropicが、AIが自らを訓練・改善し、能力を急加速させる「RSI（Recursive Self-Im...
タグ: AI安全性
AI安全論争が「信じられない」段階へ――事実とフィクションの境界が崩れ始めた
海外テックメディアTechCrunchが取り上げたのは、AIの安全性をめぐる議論が急速に過熱し、もはや「何が事実で、何が...
Anthropic CEOが提案する「AI開発の速度調整」構想――最先端AIを止めずに安全を守る方法はあるのか
AI開発競争が世界的に加速するなか、AnthropicのCEOであるダリオ・アモデイ氏が、最先端AIの発展を「pace ...
AI安全規制は「人類を守る」ためか、それとも「主導権を握る」ためか――海外で再燃するAIガバナンス論争
生成AIの急速な進化を背景に、海外では「AIの安全性」をめぐる議論が再び熱を帯びています。TechCrunchの記事「I...
AIが「次の自分」に隠蔽メモ？OpenAIの報告が示す“賢すぎるモデル”の新リスク
OpenAIが、次世代モデルの安全性をめぐる注目すべき事例を明らかにしました。報道によれば、GPT-5.6 Solと呼ば...
OpenAIとAnthropicが「安全評価者」を社内に常駐へ――本当に独立した監視は可能なのか
生成AIの開発競争が加速するなか、OpenAIとAnthropicが外部の安全性評価者を自社のAI研究所内に受け入れる動...
NVIDIAフアンCEO「AI規制は不要」発言が波紋――安全性は企業任せで本当にいいのか
生成AIの急速な普及により、世界各国でAI規制の議論が進むなか、NVIDIAのジェンスン・フアンCEOが「AIは未知の“...
AI開発は「減速」へ向かうのか？Anthropic CEOが示した“最前線のペース配分”という新潮流
生成AIの競争が世界的に加速するなか、Anthropicのダリオ・アモデイCEOとOpenAIのサム・アルトマンCEOが...
OpenAI理事会に「AI破滅リスク」重視派が参加──安全性重視への本気度を読む
米TechCrunchは、AIアライメント研究の重要人物であるポール・クリスティアーノ氏が、OpenAI Foundat...
OpenAIの「暴走エージェント」問題、AI安全性の“自己検証”に限界か——独立調査を求める声が加速
米TechCrunchは、OpenAIで起きた最新の「エージェント・スウォーム」関連インシデントをきっかけに、AI企業が...