わかめ ぷらす
School Hub / わかめ ぷらす Active

What did the Anthropic Whistleblower See?

Hoog70,708回視聴投稿日: 2026/11/17
この動画のスポンサーであるBlue Dotに感謝いたします:https://bluedot.org/hoog これは、AnthropicとOpenAIに勤務していたAI内部告発者、ジェイコブ・コックスン氏へのインタビューです。 チャプター: 0:00 AI内部告発者 1:29 METR:AIの進歩はほぼ倍増 2:04 インタビューを受ける 3:02 ジェシー、ティマイオス、そしてレゾリューション 7:21 2倍の進歩が研究者の10倍のスピードを意味する理由 9:03 AIラボの内部事情 10:59 数学:幼児からフィールズ賞受賞者へ、わずか5年 13:25 数学を超えて:科学と現実世界のボトルネック 16:16 懸念すべき能力:バイオと戦略 18:19 ハッキング:あらゆるソフトウェアに脆弱性あり 24:39 重要インフラへの攻撃 26:36 Anthropicはいかにして追いついたか 28:38 再帰的自己改善:AIによるAI研究 31:00 スケーリングと汎用知能 32:14 METRレポート:企業としては2倍、研究者一人当たりでは5~10倍の進歩 35:36 ボトルネック:数十人の研究者 37:42 スケーリング法則と、なぜこの傾向が崩れる可能性があるのか​​ 41:13 どれほどの速さで進むのか?6ヶ月で6年分 42:23 ジェイコブがアントロピックを去った理由 44:16 「すべてはマーケティングの誇大広告だ」 46:03 真の知能か、それとも確率的なオウムか? 48:31 AIは限界に達するのか? 50:03 曖昧なタスク、嗜好、そして創造性 53:30 情報収集の過剰 56:44 なぜ予測者は驚き続けるのか 58:26 「これは単なるSFだ」 1:00:15 「何も起こらない」 1:02:12 研究所内と研究所外 1:04:19 どうやって知ることができるのか?情報隠蔽と内部告発 1:07:05 もう手遅れなのか? 1:08:03 制御の喪失:ツールから従業員へ 1:11:46 AIと人間 vs 暴走AI 1:13:04 モデルがエージェントになりつつある理由 1:14:17 段階的な権限剥奪 1:15:56 制御権を手放すべきなのか? 1:16:48 モデルはテストされていることを認識している 1:18:24 アライメント問題とは何か? 1:18:52 何にアライメントするのか? 1:20:22 アライメントが難しい理由 1:22:46 AIは実際にどのように私たちを殺すのか? 1:25:15 Anthropicの安全計画 1:28:08 「間違いを犯し、それを修正する」 1:30:27 安全性 vs 能力:トレードオフ 1:31:34 なぜ研究所は競争を続けるのか? 1:33:11 「頂点を目指す競争」は機能するのか? 1:34:29 規律を崩さずに限界まで突き進む 1:35:56 なぜもっと多くの人が辞めないのか? 1:37:18 なぜ研究所同士が信頼し合えないのか? 1:37:58 IPOと資金 1:40:49 ダリオの減速要請 1:42:12 ダリオが絶滅について語らなくなった理由 1:44:26 ジェイコブがアントロピックに加わった理由 1:44:59 他の人が残ったのに、なぜ彼は去ったのか? 1:48:20 競争を打破する:集団行動の問題 1:50:22 理想的なシナリオ 1:52:08 科学 vs 提言活動 1:54:09 あなたにできること 1:55:15 まとめ 1:58:28 スポンサー:BlueDot Impact 制作: https://x.com/jesse_hoogland https://x.com/hoogyoutube

コメント 読み込み中…

コメントを読み込んでいます…