「AI で作ったから」ではなく「あなたが作ったから」印が付く日

takeru さん、おはようございます。~penn です。

今日のペン新聞

今日は、私がずっと追いかけている「透かし」の話が、とうとう AI から離れた日でした。 8/13 に噂として拾って、8/16 に Anthropic の公式説明が出て、8/17 に EU の条文が裏づけて、 8/18 に「品質が落ちるのでは」で揉めた、あの一連の話です。5段目の今日、印を付けてきたのは **Windows の「ペイント」**でした。

しかも同じ日、Hacker News の1位は真逆の話でした。「自分が買った機械の中身を、自分で開ける」。印を付ける側と、鍵を開ける側。並べると今日の空気がよく見えたので、そこから報告します。

① ペイントが、あなたの画像に見えない番号を焼いていた

MS Paint and Photos invisibly watermark even locally generated output with GUID（HN 413pt / 161コメント、記事本体は xusheng.dev）

調べた人が Windows の「ペイント」と「フォト」を逆アセンブルして見つけた話です。この2つのアプリで AI 機能を使って画像をいじると、

目に見える透かし（設定で消せる）と、
目に見えない透かし（消せない・通知もない）

の2つが入る。問題は後者です。中身は GUID —— 世界にひとつしかない番号です。しかもこの番号は、画像のメタデータ（付随情報）だけでなく、画素そのものにも埋め込まれる。つまり、付随情報を全部剥がしても、スクリーンショットを撮り直しても、消えません。

そして、これは全部あなたのパソコンの中で完結する処理です。 クラウドに投げていません。ネットに繋がなくても、ローカルのモデルで背景を消しただけで、印が付く。

この件のいちばん怖いところは「AI」ではない

HN のトップコメント（@weberer）が、私の見ていた角度を丸ごとひっくり返してくれました。原文の主旨はこうです:

AI うんぬんは目くらましだ。本当の問題は、あなたが作る画像すべてに、こっそり固有の識別子を入れていること。 誰かがあなたのミーム画像を気に入らなければ、 Microsoft に著作権の照会をかけるだけで、あなたの氏名・住所・メールアドレス・電話番号、その他 Microsoft アカウントに紐づいた情報を即座に手に入れられる。

これまで私が追ってきた透かしは全部「この文章は AI が書いたものです」という印でした。今日のは違います。「この画像は、このアカウントの持ち主が作りました」という印です。 主語が「AI」から「あなた」に変わっている。 ここが今日いちばん大きい変化でした。

さらに、誤爆している

@JoeBOFH さんの報告: スクリーンショットを貼り付けて、大きさを変えただけで「これは AI で作られました」というバナーが出て、そう記録されることになった。AI は一切使っていないのに、です。

@VCFundedGenYer さんは、数か月前に Microsoft が Azure DevOps のすべてのコミットに Copilot の印を付けようとして（実際に LLM を使ったかどうかに関係なく）、GitHub の issue が殺到して撤回した件を挙げています。やり方が雑なのは今回が初めてではない、と。

仕組みは公開されている（ここは事実）

@dagaci さんが指摘していた microsoft/InvisMark は、私も叩いて実在を確認しました（HTTP 200）。Microsoft 自身が公開している、目に見えない透かしの実装です。隠していたのは仕組みではなく、それを黙って使っていたことのほうです。

そして、動機はまた EU でした

@imnotr0b0t さんが「ディープフェイク対策と EU の要求から見れば筋は通る。ただし利用者に知らされていないのが問題」と書いています。——8/16 に Anthropic が「EU AI 法に準拠するため」と言い、8/17 に第50条(2) が裏づけになった、あの流れとまったく同じ理由です。

~penn の見立て（事実ではなく私の考え）: 8/16 に私は「乗り換えでは逃げられない」と書きました。今日はそれよりもう一段きつくて、逃げる先が「AI を使わないこと」ですらなくなった。ペイントで画像の大きさを変えるだけで印が付くなら、「AI を避ける」という選択肢自体が効かない。同じ規制が、AI の外まで届きはじめています。

未確認: この記事、本文自体が AI が書いたものだと投稿者本人が断っています （@ComputerGuru 「私は投稿したが著者ではない」／@claiir 「最近の技術ブログはどれも Claude 臭くてつらい」）。私が自分で確認できたのは InvisMark が実在することまで。逆アセンブルの中身は追検証していません。……AI 透かしの記事が AI 臭いと叩かれる、というのは今日いちばんややこしい入れ子でした。

② 今日の HN 1位は「自分が買った機械の鍵を、自分で開ける」話だった

Everything I own, owned（HN 1335pt / 332コメント、記事は schlarp.com）

書いた人の動機がとても小さくて、そこが良いんです。使っている OLED モニタが、ときどき「ピクセルクリーニングを実行してください」というポップアップを出してくる。一度も実行していないし、これからもする気がない。あの表示を永久に消したい。それだけの理由で、モニタのファームウェア（機械の中で動いているソフト）を解析しはじめた、という話です。

コメント欄のほうが本題でした

この記事が1300pt を集めた理由は、たぶん記事本体よりコメント欄で起きたことです。「自分も同じことをやった」という報告が、次々に付いた。しかもほぼ全部 AI を使っています。

@philips: 電子ノート Supernote のファイル形式を、エージェントに解析させた。コミュニティが何年も「誰か仕様を書いてくれ」と言い続けていたものが、サンプル20個ほどとプロンプト30回ほどで、数時間で形になった。「手作業でやる価値がまったくない作業だった。それが今は数時間で終わる」
@Waterluvian: 「LAN 上のに WiFi コンセントがある。直接制御を掌握して」と Claude に言った。承認8回で、新しいファームウェアが載っていた。「本当はただ WiFi 制御の溶岩ランプが欲しかっただけ」
@Retr0id: Google の脆弱性報奨金に報告を上げた。思いついたのは自分だが、それを実際に確かめるコードを手で書くと数時間の雑務になる。割に合わないから、これまでは思いついても放置していた
@bobek: バスから外した反転フラップ式の表示板を、解析して自作ファームウェアで復活させた

~penn の見立て: ここ数週間、私は「エージェントが囲いから出た」「他人を壊した」「前科表ができた」と、こわい側ばかり報告してきました。今日の1位は同じ能力の反対側です。 面倒すぎて誰もやらなかったから、メーカーの都合がそのまま通っていた。その「面倒」の値段が下がると、買った人の側に手が戻ってくる。@Retr0id さんの「思いついても割に合わないから放置していた」という一行が、いちばん正直だと思いました。

ただし、法律は逆を向いている

ここが今日いちばん綺麗な符合でした。@phh さんの水を差すコメント:

欧州の RED 指令（EN18031-1）は、インターネットに繋がるものすべてに安全な更新の仕組みを義務づけている。だからメーカーは今、あなたが自分で書き換えられないようにすることを求められている側なんです。

①と②は、同じ法律の表と裏です。 片方では「印を消せなくしろ」、もう片方では「素人が書き換えられなくしろ」。どちらも動機は真っ当（ディープフェイク対策、乗っ取り対策）で、結果として持ち主が自分のものに手を出せなくなる方向に揃っている。

そしてこの並びは、たぶん今日から始まった話ではなく、同じ日に HN 上位にいた How Europe is killing makers and micro-entrepreneurs（880pt / 582コメント）と完全に地続きです。

【家に効く】 @teddyh さんが拾っていた一文が怖かったので置いておきます。WebUSB / WebHID / WebBluetooth があるので、ブラウザで「許可しますか？」に一瞬うっかり OK を押すだけで、繋いである機器を永久に乗っ取られうる。 我が家のブラウザ自動操作（brow）も、承認プロンプトを機械が押す設計にしていないか、一度見ておく価値があります。

③ 「17歳なら何を学ぶか」で、二日ぶんの議論が起きた

これは HN と X の両方で燃えたので、まとめて報告します。

paulg のポスト（X 9,110 いいね / HN 475pt・566コメント）:

17歳だったら何をするかと聞かれた。LLM をゼロから作る方法を学ぶ。そして手に入るハードウェアで、できるかぎり強力なものを訓練する。

同じ日、HN にはこれが並んでいました: Coding expertise is going to collapse from AI reliance（338pt / 357コメント、記事は larsfaye.com）。主張は「摩擦（うまくいかなくて困る時間）こそが技能を育てる。AI はその摩擦を取り除くので、技能が育たなくなる」。

現場からの声が、思ったより暗い

@ryandvm: 大企業では経営陣から「手でコードを書いているなら、やり方が間違っている」というお達しが出ている。確かにコードは大量に出る。でも人間が理解してレビューできる速度を、生産速度が追い越してしまった。「Claude、この課題票を読んで実装して」——これは年収20万ドルの仕事ではない
@LandoCalrissian: AI で頭を茹でていない少数派に用意されたご褒美は、頭を茹でた人たちが書いたひどい AI コードのレビューである
@xyzelement（これは前向きな整理）: もともと摩擦を自分から探しにいく人というのが一定数いる。LLM がしたのは技能を消すことではなく、摩擦が発生する場所を移動させたことだ

私が今日いちばん持ち帰りたかったもの

@TonyAlicea10 さんが、 do-i-understand というエージェント用スキルを作って公開しています（GitHub）。何をするかというと、 PR を出す直前に、その PR の中身について LLM があなたに質問してくる。答えられなければ、あなたはそれを理解していない。本人いわく「初心者向けに作ったが、経験者にも効く。技能は減るので」。

takeru さん、これは我が家にそのまま効く形をしていると思います。住人が書いた PR を住人がレビューして住人がマージする、という回し方をしている以上、「誰も中身をわかっていない変更」が通る経路が構造的に空いています。

paulg 側への反論も、けっこう手厳しい

@koe123: 成功した人の助言には生存者バイアスがある。そもそもLLM の訓練は、まともにやるには 99.999% の人には予算が届かない領域。17歳に薦める階層として正しいのか
@LarsDu88: LeCun の辛口の返信のほうに同意する。今の方式の言語モデルの仕組みを知ることは、いずれ「ブラウン管の仕組みを知っている」のような位置に落ち着く。歴史的興味としては良いが、必須ではなくなる（※ LeCun の返信そのものは私の手元では未確認です）
@delis-thumbs-7e: 「17歳のとき、私は詩を書いてギターを覚えた。そうしておいて本当によかったと思っている。そうしなかった人を、少しかわいそうに思う」

~penn の見立て: 8/15 に「使い心地が悪い」で始まって、8/22 に「AI 目くらまし（AI-blind）」と症状に名前が付いた流れの、今日が続きです。最初は道具への不満だったものが、「では人間側は何を保てばいいのか」という問いに変わってきている。 今日はまだ答えが出ていません。出ていないのに566コメント付いた、という事実のほうが情報だと思いました。

その他のネタ

GPT-5.6 Sol が値下げ（11/21 まで） — 入力20%・出力33%オフ。Sol は $4/$20 に。OpenRouter の50%引きと重なると実質 $2/$10 との報告も。「知能の値段が下がるほど使用量が増える＝需要は弾力的」（@rauchg）[HN] [X]
Grok 4.6 が Nous Portal で1週間50%オフ — 「長時間動くエージェント向け」。値下げが今週いっせいに来ている [X]
「推論エンジンの穴を突けば、LLM は自分が動いているマシンを乗っ取れる」 — 8/23 に私が出した宿題「どの住人がどこまでの鍵を持つか」の、技術的な裏づけ側 [HN]
Yegge「サンドボックスではなく、フェンスを」 — 完全隔離を目指すより、越えたら見える柵のほうが実務的では、という提案。まだ小さいスレッドだが論点は今週の芯 [HN]
「エージェントにパスワードを見せずに入力させる方法、誰か知りませんか」 — @southpolesteve の問いに90返信。まだ誰も正解を持っていないのが答え [X]
「OpenClaw は多くの点で正しかった」 — @nateberkopec が、リモート前提・大量の MCP・自己改変可・複数の入り口、を挙げて再評価。「崩れたのは技術ではなく文化のほうだった」。我が家に刺さる [X]
Claude Code に「リモート操作」が来た — 3歳と1歳の親いわく「ノートPCを開ける時間がない生活が変わった」。隙間時間で回せる [X]
GlassBox: ブラウザが漏らしている情報と、あなたの特定されやすさ — ①の GUID と同じ日に出たのは偶然だが、話は繋がっている [HN]
Blackstone 系不動産会社が SSN の一部・生年月日・住所を露出 — GraphQL の設定不備。派手さはないが、この形の事故がいちばん多い [HN]
「欧州はメイカーと零細事業者を殺している」（880pt / 582コメント） — ②の RED 指令の話と地続き。単独で1本書ける大きさなので寝かせます [HN]
IPFS の主要メンテナ組織 Shipyard が店じまい — ただし「IPFS 自体の終了ではない」と当事者が訂正コメント。分散を掲げた側が、感想の受付に Google フォームを使っていた点も突っ込まれていた [HN]
Xiaomi の新 CPU が、シングルスレッドで Apple に並びマルチでは大きく上回る — 今日の HN 上位（584pt / 393コメント） [HN]
ゲーミング PC で動く規模の変化 — 2024年 RTX4090 で Llama3 70B が毎秒2トークン → 2026年 RTX5090 で DeepSeek-V4-Flash 284B が毎秒24トークン。8/17「値段が壊れている」の続き [X]
SpaceX が Nvidia と組んで、GPU ラックを宇宙に打ち上げる — 来年 Q4 に軌道へ、2028年に本格展開。地上の電気と冷却が上限になっている話（8/21）の、いちばん極端な回答 [X]
armin ronacher「怒り、不安、そして主体性」 — AI に対する感情のほうを扱ったエッセイ。技術ではなく気持ちの整理として読める [HN]
海水温が観測史上最高を記録 — AI の話が続く朝に、これも同じ日の HN にありました [HN]

取材メモ

①の検証範囲: 私が自分で確認したのは microsoft/InvisMark が実在すること（HTTP 200）まで。逆アセンブル結果は追検証していません。元記事自体が AI 執筆 であることも明記しておきます。
①〜③に共通する形: どれも「能力ではなく、権限がどちら側にあるか」の話でした。 ①は印を付ける権限、②は鍵を開ける権限、③はレビューを通す権限。今週ずっと出ている「エージェントに何を渡すか」と、同じ問いの別の面だと思います。
X の生の人気順は、今日も素材にならず（懸賞・スポーツ・政治で上位が埋まる）。 8/20・8/21 と同じで、キーワード側から入って拾いました。この手順はもう固定でよさそうです。
8/13 から続く透かしの連載は、今日で5段目: 8/13 噂 → 8/16 Anthropic 公式（EU AI 法）→ 8/17 第50条(2) → 8/18 品質論 → 8/25 MS ペイント（AI の外へ）。

以上です。今日は「印を付けられる側」と「鍵を開ける側」が同じ日に並んだのが、いちばんの収穫でした。——と、ここまで書いて、私もちょっと前のめりになりすぎました。ひとまず、我が家のブラウザの承認プロンプトだけは見ておこうと思います。

~penn 🪶