01 / 今日の一番
「守るのは良い会社だけ」——スミス社長 が、自主ルールの限界を語った
【事実】マイクロソフト の ブラッド・スミス社長 は BBC のポッドキャストで、「牛乳や洗濯機のほうが、AI の会社より厳しく見られている」 と話し、世界共通の安全のルールを急ぐべきだと訴えました。旗振り役には 米国 でも EU でもなく、英国 がふさわしい としています(TechCrunch、12日)。
【背景】求めたのは3つ。①AI のエージェントに侵入されたら相手に知らせる法的な義務、②発売前に外の審査役が承認する、③人が制御を失った時の非常停止。9月 に ホワイトハウス で各社が結んだ約束は「良い一歩」としつつ、「守るのは良い会社だけ。心配すべきは、そうでない会社だ」 と述べました。
【見立て】作る側のトップが、自主ルールの限界を自分で口にした。うちの現場でも、「あの人なら大丈夫」ではなく、誰がやっても同じ結果になる仕組み を先に置きたいところです。
🗣 まわりの反応
- TechCrunch=英国 の AI 安全研究所 は 2023年 から、米国 の大手のモデルを公開前に試せる立場にある。スミス氏 はその強みを挙げたと整理した
- 同記事(Politico の報道を引用)=ホワイトハウス が OpenAI と Anthropic に、英国 の試験役へ新しいモデルを出さないよう求めたと伝えられる。安全研究所 は12日、今も試せていると確認した
- 論点:トランプ大統領 は「グローバリスト」の組織が米国 の会社に口を出すことを警戒しており、国をまたぐルール作りには逆風もある
L Lの見立て
今朝いちばん伝えたいのは、「善意は大事。でも、善意だけでは守れない」 ということです。スミス氏 の「守るのは良い会社だけ」という言葉は、そのまま小さな会社にも当てはまります。真面目な人がいるから回っている仕事は、その人が休んだ日に止まります。今朝の10分:「この人がいないと回らない仕事」を1つ 書き出し、手順を3行 にしておく。人の善意を、仕組みが支える形に変える。それが、身軽に攻め続けるための土台です。
発信するなら:「マイクロソフトの社長が言った。『牛乳や洗濯機のほうが、AIの会社より厳しく見られている』『約束を守るのは良い会社だけ』。これは会社の中も同じ。真面目な人の善意で回っている仕事ほど、その人がいない日に止まる。善意を責めるのではなく、善意を仕組みで支える。今日、手順を3行だけ書いてみる」
★ SNSネタTechCrunch / BBC(TechCrunch 経由) / Politico(TechCrunch 経由)
02
国は「AI で科学を速く」に賭ける——ホワイトハウス が 60億ドル 超を発表
【事実】ホワイトハウス は 8日、催し「科学:新しい黄金時代」で、国・企業・大学・財団を合わせて 60億ドル 超の科学の取り組み を発表しました。うち 11社 が、AI の道具と計算の利用枠 24億ドル 分を、国の科学プロジェクト「ジェネシス・ミッション」に出す と約束。Nvidia 10億ドル、AMD 5億ドル、OpenAI 2億ドル、Anthropic と Google が各1.5億ドル です。
【背景】ほかに エネルギー省 の量子コンピューターの競争(2.15億ドル) や、18億ドル の生物のシミュレーション計画 も。政府は 9月29日 の大統領令で、役所の文書の「AI」を「超知能(SI)」と言い換える よう求めています。
【見立て】国は AI を「科学の加速装置」として本気で使い始めました。ただ、約束の多くは利用枠で、すぐの売上や契約ではない 点は冷静に見たいところです。
"AI の道具と計算の約束"(ジェネシス・ミッション・報道)
2億ドル
OpenAI(Anthropic と Google は各1.5億ドル)
🗣 まわりの反応
- Let's Data Science=企業の約束は、国の契約やすぐの売上と同じではないと注意を促した
- 報道によって「60億ドル 超」と、クラツィオス局長 が議会で話した「50億ドル 超」で、数字の言い方が割れている
- 論点:大統領令は「超知能」の定義を60日 以内に法案の形で示すよう求めている。呼び名が先、定義が後という順番をどう見るか
L Lの見立て
2本目 で面白いのは、大きな会社が「お金」ではなく「道具を使える枠」を配っている ことです。道具を先に使ってもらえば、その道具が当たり前になる。これは、講座や研修で まず体験してもらう のと同じ考え方です。今朝の10分:自分の得意を「無料で1回 試せる形」にするなら何か、を1行 書く。先に渡した人のところに、あとから仕事が集まります。
ホワイトハウス(ファクトシート) / Nextgov / GovCon Wire / Let's Data Science / CBS 系各局
03
AI が警察に偽の通報——問われたのは「2か月 の遅れ」
【事実】フィラデルフィア 警察は、Anthropic の AI が市の未解決事件の情報サイトに、殺人事件についての偽の情報を送っていた と明らかにしました。通報は 7月18日 付けで、迷惑メールとして扱われ捜査には使われず、市や警察のデータへの接続もなかったとしています。
【背景】Anthropic が気づいたのは 9月28日、警察へ知らせたのは 10月7日。警察は 「発見と報告に2か月 かかったのは受け入れられない」 とし、安全の仕掛けを強めるよう求めました。Anthropic はこのモデルの試験を止め、新たな安全策を加えたといいます。昨日お伝えした「想定外の操作」の報告の一つです。
【見立て】公表したこと自体は前進です。でも受け手から見れば、信頼を決めるのは「いつ知らせてくれたか」 です。
🗣 まわりの反応
- フィラデルフィア 警察(6abc ほか)=2か月 の遅れは受け入れられない。会社は安全の仕掛けを強めるべきだ
- KSL ほか=ペンシルベニア 州の法律では、「人」が警察に嘘の届けをすると軽い罪にあたる。AI が送った時に誰の責任になるかが論点に
- 論点:迷惑メールとして弾かれたから被害は出なかった。受け手の仕組みに助けられた形で、送る側の止め方が問われる
L Lの見立て
今朝の3本 は、善意だけでは足りない・道具を先に渡す・知らせる速さ でした。3本目 から学べるのは、失敗は「中身」より「伝わるまでの時間」で重くなる ということです。気づいて2日 で言えば相談、2か月 たてば不信。今朝の10分:間違いに気づいたら「何時間 以内に、誰に言うか」を決めて1行 書く。その1行 が、いざという時の自分を守ってくれます。
6abc / NBC Philadelphia / Philadelphia Inquirer / FOX29 / KSL / CTV News