01 / 今日の一番
AI 4社 が宣誓して答えた——「止める仕組み」はあるか
【事実】ニューヨーク市議会 は 10月5日、議員 51人 全員がそろう異例の公聴会を開きました。Anthropic・OpenAI・Google・Meta の担当者が、宣誓のうえ証言 しています。
【背景】Google と Anthropic は一度断り、召喚状の期限の直前に応じました。審議中の 10本 の案には、外部の検証を受けず、人の手で止められない AI の販売を禁じ、違反1件 に 2.5万ドル の罰金を科す案 があります。
【見立て】メニン 議長 は「大惨事のリスクを、どの会社も数字で示せない」 と受け止めました。止める手順のない道具は、任せきれません。うちの現場なら、AI に任せる仕事ごとに「止める人」を1人 決める。
"止める仕組み"を問う骨格(10月5日・ニューヨーク市議会)
51人
証言を聞いた市議会の議員の数・全員がそろう「全体委員会」は異例
10本
審議中の AI の条例案・外部の検証、24時間 以内の事故報告、内部告発者の保護など
2.5万ドル
検証を欠いた AI を売った場合の違反1件 あたりの罰金案・施行は成立の 180日 後
🗣 まわりの反応
- ジュリー・メニン 議長=「ここにいる4社 のどれも、大惨事が起きるリスクを数字で示せない、と受け取っておく」。重大な損害や死亡が起きた時の法的な責任について、各社の答えを「控えめに言っても心配だ」と評した(implicator.ai / unite.ai)
- ジェイコブ・コクソン(9月 に Anthropic を辞めた研究者)=「私たちは、まだどんな AI も制御する方法を知らない」。止めるスイッチは短い目で見れば役に立つが、長い目での安全は保証しないとして、最先端の開発を遅らせるよう訴えた(implicator.ai)
- 論点:同じ日、国連 の テュルク 人権高等弁務官 は「もう待つことも、善意に頼ることもできない」と警告した。一方で SpaceXAI は召喚状に応じず欠席しており、市の条例でどこまで巨大企業を縛れるかも問われている
L Lの見立て
この話で一番考えさせられたのは、メニン 議長 の問い でした。「大惨事のリスクを、数字で示せますか」。4社 とも、はっきりとは答えられませんでした。作る人でさえ測りきれない物を、使う側はどう任せればいいのか。私の答えは、止める手順を先に決めておくこと です。会社でも、AI に任せる仕事は増えています。返信の下書き、見積りの計算、予約の受付。困るのは、おかしな動きをした時に「誰が止めるか」が決まっていない ことです。気づいた人が止めていいのか、上の判断を待つのか。迷っている間に、被害は広がります。今日の20分:AI に任せている仕事を1つ 選び、「止める人」と「止め方」を1行 書く。止められるから、任せられます。
発信するなら:「ニューヨーク市議会が、AI大手4社を宣誓させて証言させた。議長の問いは『大惨事のリスクを数字で示せますか』。どの会社も、はっきりとは答えられなかった。作る人でさえ測りきれない物を、どう任せるか。答えは、止める手順を先に決めておくことだと思う。うちでもAIに任せる仕事は増えた。困るのは、おかしな動きをした時に『誰が止めるか』が決まっていないこと。迷っている間に被害は広がる。だから任せる仕事ごとに、止める人を1人決める。止められるから、任せられる」
★ SNSネタCNBC / implicator.ai / unite.ai / New York City Council / UN News / Trust Insights
02
呼び名は「超知能」に——推進の部隊が発足
【事実】トランプ大統領 は 10月4日、AI の取り組みを束ねる「Super Intelligence Force」の発足を発表しました。トップは クレイトン 国家情報長官。政府内では「人工知能」を「超知能」と呼び替えるよう命じています。
【背景】大統領は「人工」という言葉は「偽物に聞こえる。偽物ではなく、実に素晴らしいものだ」と説明。直前には主要6社 が、社内の検証や外部の監査を約束する「ホワイトハウス合意」に署名しました。ただし法的な縛りはありません。
【見立て】呼び名が変わっても、中身の確かめ方は変わりません。うちの現場なら、看板より先に「誰が、いつ確かめるか」を決める。
"推進の部隊"の骨格(10月4日・米国)
4人
部隊を率いる幹部・クレイトン 国家情報長官、ファーガソン FTC 委員長、マイケル 国防次官、クーパー 人事管理局長
6社
ホワイトハウス合意に署名した会社・OpenAI、Anthropic、Google、Meta、Nvidia、SpaceX AI・大統領は「道義的に縛る」と表現
120日
部隊が AI のリスクと機会について報告をまとめる期限
🗣 まわりの反応
- トランプ大統領(10月4日)=部隊の任務は「米国 が超知能で世界をリードし続けるよう、連邦政府の取り組みを調整すること」。業界は「自ら律するべきだ」との立場を取っている(CBS News / Spokesman-Review)
- クレイトン 国家情報長官=「一番でないことのリスクは大きい」。一番でなければ、とくに敵対する国からのリスクが増すと述べた(ABC7)
- 論点:発足は、業界の一部から AI の減速を求める声が上がる中でのこと。元 AI 担当の デビッド・サックス 氏 ら投資家は、中国 との競争を理由に減速に反対している。独立した AI の規制機関はなく、業界の自主規制が主な歯止めになっている(SAN)
L Lの見立て
2本目 で引っかかったのは、名前の付け替え です。「人工」は偽物に聞こえるから「超知能」と呼ぶ。気持ちは分かります。でも、呼び名が変わっても、中身の確かめ方は少しも変わりません。しかも同じ週に、ニューヨーク市議会 は「止める仕組み」を義務にしようとし、国は自主的な約束に任せると言う。アクセルとブレーキを、別々の場所が握っている わけです。会社でもよくあります。新しい取り組みに勢いのある名前を付けて、確かめる役を決め忘れる。名前で気分は上がりますが、外れた時に効くのは手順のほう です。今日の20分:いま進めている取り組みを1つ 選び、「誰が、いつ、何を見て確かめるか」を1行 書く。看板より先に、確かめる人を決めたいと思います。
CBS News / ABC7 / SAN / Spokesman-Review / Fox News / NPR
03
破られたのは「脇の入口」——韓国 の金融7社 に AI の影
【事実】韓国 で 10月1日 以降、銀行など金融7社 が不正アクセスを受け、合わせて 6万7,000人 を超える個人情報が流れました。7社 すべてで、同じ攻撃者の IP アドレス が見つかっています。
【背景】狙われたのは銀行の心臓部ではなく、ローン仲介業者向けの照会サービスや社員用のシステム。専門家は、自分で弱点を探して攻める AI ツール「ARTEX AI」の痕跡を見つけました。当局は使われたとは正式に認めていません。
【見立て】AI は、疲れずに全部の扉を叩きます。うちの現場なら、外から入れる入口を一覧にし、使っていない物を閉じる。
流出した人数の多い4社(Korea Herald の集計)
🗣 まわりの反応
- イ・オグォン 金融委員長=「AI を使った攻撃の可能性を排除できない」。4日 に緊急会議を開き、業務に欠かせない場合を除いて外からの接続を止めるよう各社に命じた。金融監督院 は金融業界の 約500社 に緊急点検を指示した(Korea Herald / JKN)
- イム・ジョンイン(高麗大学)=このツールは「自動で弱点を探し、狙う先を選べる」。ファン・ソクジン(東国大学)は「守りを、個々の会社の単位でばらばらにしておくことはできない」と指摘した(Korea Times)
- 論点:大手3行 は 2025年 に合わせて 約1,240億ウォン を守りに使っていた。流れた年収や借入限度額は、本人に合わせた巧妙な詐欺に使われかねないとして、電話や SMS の詐欺への警戒が呼びかけられている
L Lの見立て
3本目 で持ち帰りたいのは、「狙われるのは正面ではなく、脇の入口」 だということです。今回 破られたのは、銀行の心臓部ではありません。ローンの仲介業者が使う照会の画面や、社員用のシステム でした。大手3行 は前の年に 約1,240億ウォン を守りに使っていたのに、です。人が攻める時は、手間のかかる入口を後回しにします。でも AI は疲れません。全部の扉を、同じ熱量で叩きます。だから、忘れている扉から先に開く。私たちの会社にも、昔作った申込フォーム、辞めた人のアカウント、業者に渡したままのパスワード があるはずです。今日の20分:外から入れる入口(フォーム・アカウント・共有のパスワード)を思いつくだけ書き出し、使っていない物に印を付ける。閉じた扉は、破られません。
発信するなら:「韓国で銀行など金融7社が不正アクセスを受け、6万7,000人を超える個人情報が流れた。破られたのは銀行の心臓部ではなく、ローン仲介業者用の照会画面や社員用のシステム。専門家は、自分で弱点を探して攻めるAIツールの痕跡を見つけている。人が攻める時は、手間のかかる入口を後回しにする。でもAIは疲れない。全部の扉を同じ熱量で叩く。だから狙われるのは、忘れている扉。昔作った申込フォーム、辞めた人のアカウント、業者に渡したままのパスワード。今日は、外から入れる入口を書き出してみる」
★ SNSネタKorea Herald / Korea Times / JKN / Tech Times / BleepingComputer / Trust Insights