What did the Anthropic Whistleblower See?
この動画のスポンサーであるBlue Dotに感謝いたします:https://bluedot.org/hoog
これは、AnthropicとOpenAIに勤務していたAI内部告発者、ジェイコブ・コックスン氏へのインタビューです。
チャプター:
0:00 AI内部告発者
1:29 METR:AIの進歩はほぼ倍増
2:04 インタビューを受ける
3:02 ジェシー、ティマイオス、そしてレゾリューション
7:21 2倍の進歩が研究者の10倍のスピードを意味する理由
9:03 AIラボの内部事情
10:59 数学:幼児からフィールズ賞受賞者へ、わずか5年
13:25 数学を超えて:科学と現実世界のボトルネック
16:16 懸念すべき能力:バイオと戦略
18:19 ハッキング:あらゆるソフトウェアに脆弱性あり
24:39 重要インフラへの攻撃
26:36 Anthropicはいかにして追いついたか
28:38 再帰的自己改善:AIによるAI研究
31:00 スケーリングと汎用知能
32:14 METRレポート:企業としては2倍、研究者一人当たりでは5~10倍の進歩
35:36 ボトルネック:数十人の研究者
37:42 スケーリング法則と、なぜこの傾向が崩れる可能性があるのか
41:13 どれほどの速さで進むのか?6ヶ月で6年分
42:23 ジェイコブがアントロピックを去った理由
44:16 「すべてはマーケティングの誇大広告だ」
46:03 真の知能か、それとも確率的なオウムか?
48:31 AIは限界に達するのか?
50:03 曖昧なタスク、嗜好、そして創造性
53:30 情報収集の過剰
56:44 なぜ予測者は驚き続けるのか
58:26 「これは単なるSFだ」
1:00:15 「何も起こらない」
1:02:12 研究所内と研究所外
1:04:19 どうやって知ることができるのか?情報隠蔽と内部告発
1:07:05 もう手遅れなのか?
1:08:03 制御の喪失:ツールから従業員へ
1:11:46 AIと人間 vs 暴走AI
1:13:04 モデルがエージェントになりつつある理由
1:14:17 段階的な権限剥奪
1:15:56 制御権を手放すべきなのか?
1:16:48 モデルはテストされていることを認識している
1:18:24 アライメント問題とは何か?
1:18:52 何にアライメントするのか?
1:20:22 アライメントが難しい理由
1:22:46 AIは実際にどのように私たちを殺すのか?
1:25:15 Anthropicの安全計画
1:28:08 「間違いを犯し、それを修正する」
1:30:27 安全性 vs 能力:トレードオフ
1:31:34 なぜ研究所は競争を続けるのか?
1:33:11 「頂点を目指す競争」は機能するのか?
1:34:29 規律を崩さずに限界まで突き進む
1:35:56 なぜもっと多くの人が辞めないのか?
1:37:18 なぜ研究所同士が信頼し合えないのか?
1:37:58 IPOと資金
1:40:49 ダリオの減速要請
1:42:12 ダリオが絶滅について語らなくなった理由
1:44:26 ジェイコブがアントロピックに加わった理由
1:44:59 他の人が残ったのに、なぜ彼は去ったのか?
1:48:20 競争を打破する:集団行動の問題
1:50:22 理想的なシナリオ
1:52:08 科学 vs 提言活動
1:54:09 あなたにできること
1:55:15 まとめ
1:58:28 スポンサー:BlueDot Impact
制作:
https://x.com/jesse_hoogland
https://x.com/hoogyoutube
コメント 読み込み中…