OpenAI の文章の透かし textGrain(EU)
見えない印ChatGPT と Codex の文章に・EU の AI法 への対応・API は世界中で選んで使える(初めは オフ)・検出の道具は承認された研究者に限る
透かしの弱さ(OpenAI 自身の試験)
92% → 66%400トークン の文章で単語の1割 を言い換えた時の検出率・2割5分 を変えると印は 17% しか残らない
Google × Constellation(10月6日)
3,590MW原発 11基 の増強で 890MW(20年契約)+ 2,700MW(15年契約)・Constellation は 43億ドル 超を投資・株価は 12.2% 高
Anthropic の守る側向けの仕組み(10月6日)
3段階守り/許可された侵入テスト/重要インフラ・Project Glasswing を統合・参加組織は 4〜7月 に 12.9万件 の弱点を確認
01 / 今日の一番
AI が書いた文章に、見えない印——OpenAI が EU で「透かし」を始めた
【事実】OpenAI は、EU の利用者向けに、ChatGPT と Codex が書いた文章へ目に見えない「透かし」(textGrain)を入れ始めました。読んでも、コピーしても見えません。世界中の API 利用者も、選べば使えます。
【背景】EU の AI法 で、AI が作った物だと分かるようにする決まりへの対応 です。言葉の選び方にわずかな癖をつけ、検出の道具がそれを探す仕組み。ただ、単語の1割 を言い換えると、見つかる割合は 92% から 66% に 下がります。
【見立て】これは「嘘を見抜く道具」ではなく「出どころを示す印」 です。うちの現場なら、AI を使った文書に「AI を使った」と自分から書く場所を決める。
"見えない印"の強さと弱さ(OpenAI 公表の試験・400トークン の文章)
66%
単語の1割 を似た言葉に言い換えた時の検出率
🗣 まわりの反応
- OpenAI=透かしは「確実な検出を保証しない」。文章の正しさ、書いた人、人の手がどれだけ入ったかを証明する物でもない、と自ら限界を示した(Techzine Global ほか)
- Kompozy(レビュー)=透明性の手段としては筋が良く、限界にも正直。ただし「AI が書いたか」を見抜く道具としては、あえてそう作られていない。編集すれば印はすぐ薄れる、と評価した
- 論点:母国語でない言葉で書く人は、AI で文章を整えることが多い。印によって、そうした人が不当に疑われないか、という公平さへの心配が出ている
L Lの見立て
この話で大事なのは、OpenAI 自身が「簡単に薄れる」と認めている ことです。だから透かしは、人を疑うための道具にはなりません。役に立つのは、正直に使う人が「これは AI と作りました」と示す時 です。小さな会社でも、提案書、ブログ、お客様へのメール に AI を使う場面は増えました。隠して後で分かるより、先に言うほうが信頼は残ります。今日の20分:AI を使って作る文書を3種類 選び、「AI を使った」とどこに・どう書くかを1行 で決める。印は、相手を疑うためでなく、自分の誠実さのためにつけます。
発信するなら:「OpenAIが、EUでChatGPTの文章に目に見えない『透かし』を入れ始めた。面白いのは、OpenAI自身が『単語の1割を言い換えるだけで、見つかる割合は92%から66%に下がる』と公表していること。つまりこれは、嘘を見抜く道具ではない。正直に使う人が『AIと一緒に作りました』と示すための印だと思う。隠して後で分かるより、先に言うほうが信頼は残る。印は、相手を疑うためでなく、自分の誠実さのためにつけたい」
★ SNSネタTechzine Global / fonearena / mlq.ai / Slashdot / Kompozy / OpenAI ヘルプセンター
02
AI の裏側は、電気——Google が原発を含む 3,590メガワット を確保
【事実】Google は 6日、電力会社 Constellation と 3,590メガワット の電力契約を結びました。原発 11基 を増強して生む 890メガワット を 20年、残る 2,700メガワット を 15年 買う内容です。
【背景】増強する原発は イリノイ州・ペンシルベニア州・ニュージャージー州 にあり、最初の電気は 2028年 に届く見込み。Constellation は 43億ドル 超を新たに投資します。発表の日、同社の株は 12.2% 上がりました。
【見立て】AI の競争は、頭の良さだけでなく電気の取り合い でもあります。うちの現場なら、使っている道具の「裏にある固定費」を見ておく。
"電気の契約"の骨格(Google × Constellation)
890MW
原発 11基 の増強分・20年契約・2028年 から順に届く
2,700MW
特定の発電所に結びつかない供給・15年契約
43億ドル 超
Constellation が原発に新たに入れる投資
🗣 まわりの反応
- CNBC=原発の新しい電気は全体の約4分の1。Constellation の株は 6日 の取引終わりに 12.2% 高 の 300.40ドル
- Stocktwits=この契約をきっかけに、Vistra や Talen など原発を持つ電力会社の株もそろって上がった
- 論点:AI のデータセンター向けに大きな電気が長く押さえられると、ほかの利用者の電気代や送電網の余裕にどう響くか、が問われ続けている
L Lの見立て
2本目 で伝えたいのは、「便利な道具の裏には、必ず重い土台がある」 ということです。私たちが気軽に使う AI も、裏では原発 11基 の増強が要る世界 で動いています。その費用は、いつか料金に乗ってきます。会社でも、月々のクラウドや AI の料金は、気づくと固定費の大きな部分 になっています。今日の20分:毎月払っている AI・クラウドの料金を全部 書き出し、合計と「来年も同じ値段か」を確かめる。土台の値段を知っておけば、値上げに慌てません。
CNBC / Yahoo Finance / Northwest Arkansas Democrat-Gazette / Technology.org / Stocktwits
03
強い道具は、守る人へ——Anthropic が"守る側"向けの仕組みを3段階 に
【事実】Anthropic は 6日、サイバーの守り手向けの仕組みを3段階 に広げました。「守り」「許可された侵入テスト」「重要インフラ」 の3つです。どの段階でも、最も強いモデル Claude Mythos 5.1 などが使えます。
【背景】弱点探しの取り組み Project Glasswing も、ここに統合。参加組織は 4〜7月 に、確認済みの弱点を少なくとも 12.9万件 見つけました。侵入テストの枠は組織に限り、個人は対象外 です。
【見立て】攻める側が AI を使うなら、守る側にも強い道具が要ります。うちの現場なら、大事な鍵を「誰が持っているか」から確かめる。
🗣 まわりの反応
- Help Net Security=確認の取れた守り手に対して、Claude のサイバー関連の制限を緩める動きだと伝えた
- SiliconANGLE=侵入テストの枠は組織に限られ、個人で請け負う人は対象外。Project Glasswing は一つの仕組みにまとめられた
- 論点:使える範囲を広げる代わりに、本人確認と記録の管理を厳しくした(xenospectrum)。強い道具を「どこまで、誰に」開くかの線引きが、これからも問われる
L Lの見立て
3本目 は、前号の 韓国 の話とつながります。前号では、銀行への攻撃に「AI の兆し」があると大統領が認めました。今朝は、守る側に強い AI を渡す仕組み の話です。ポイントは、誰にでも渡すのでなく、確認した相手に、段階を分けて渡している こと。会社の鍵も同じです。管理者のパスワード、銀行の操作の権限、お客様の名簿。辞めた人や、今は使っていない人が、まだ持っていませんか。今日の20分:会社の大事な鍵(管理者の権限)を持っている人を書き出し、今も必要な人だけに絞る。強い道具ほど、渡す相手を選びます。
SiliconANGLE / Help Net Security / Technology.org / xenospectrum / Cybersecurity News