灰原哀についてアニメライト層にありがちな誤解③
❌️灰原は有能サポートで探偵助手をしている
⭕️原作ではあくまで科学者でひたすら解毒薬の研究を進めている。謎の超ハッキングや科捜研分析サポートなどは全て劇場版のオリジナル描写。原作では調べ物等は博士が担い、近年はFBIか警察が担当している November 11, 2025

イリヤ・サスケバー氏のパテル氏によるインタビュー。

現在のモデルは評価指標で非常に優れた性能を示しているにも関わらず、他方では特定の条件下では単純なミスをし、全く同じ誤りを２回も繰り返すという理解しがたいことが起きている。
この現象についての説明として、強化学習の訓練方法がモデルを単一志向にしてしまい、基本的なタスク能力が落ちている可能性。また、事前学習の時代には、学習に使用するデータは多様であらゆるものが自由に使えたが、強化学習の場合はどのような環境・目標で学習するかで汎化性能が制限される。
さらに、こうした中で意図せずに開発者がモデル性能を可能な限り良くしたいという報酬ハッキングが行われているということ。

このように、事前学習によっても、強化学習によっても汎化は達成できていない。さらには事前学習の動作原理はまだまだ理解できていない。

人間が学習する際には何らかの価値関数が有効に働いており、フィードバックが効いているおかげで高い汎化と効率的な学習ができている。例えば、人間における価値関数としては（知覚できるものとしては）感情といったものがあるが、現在のMLには、このような人間における価値関数の類似物はまだ存在していない

また、強化学習の文脈における価値関数は強化学習の効率性を単に向上させることに役に立つが、人の場合のおいて、この価値関数のようなものをを使うことでずっと優れた汎化性能の獲得や頑健な学習に役立っている。

さらに、人間のサンプル効率は圧倒的に高い。10時間も車を運転すれば誰でも十分に運転できるようになる。このような効率的な学習手法は人が実現しているので、存在は確かだが、まだどのように実現するかはわかっておらず研究が必要である

また、継続的な学習の重要性を重視している。人間自身も膨大な知識はもっておらずAGIではない。その代わりに人間は継続的な学習に依存し様々なことができるようになっている。
同様にAIとして目指すのは「非常に意欲的な15歳の超知能」である。知識はほとんどないが、非常に優秀な学生で、常に学び続け、プログラマにも医師にも、あらゆる職業になれるようなものだ。AIとして知識をもった完成品を投入するのではなく、何らかの学習と試行錯誤の期間を含んだ形でAIは展開されていく。

研究においてある程度の計算リソースが必要であることは確かだが、最も大規模なリソースが必要なわけではない。

将来的に飛躍的にAIの能力が向上したとき、そのAIがどのような姿になるのかを誰もが想像することが非常に難しい。またそれに応じて社会や人々ばどのようになるのかを想像することは難しい。実証して初めてみたときに分かる。

コメント
===
このインタビューではサツケバーのAGIや今後についてを自由に述べたもので興味深かった。何点か回答を避けた部分などは既にある程度の構想があり、検証を進めていくのだろう。

現在の機械学習の学習機構は基本的に教師あり学習と強化学習に依存しており、LLMは特に事前学習（次トークン予測）での多様な環境での教師あり学習と、一部の限られた環境での強化学習に依存しており、指摘の点はそのとおりである。

今回のインタビューでは特に、価値関数（人間における感情や、さらに高次のフィードバック機能）について多くの言及があった。ただ、今の強化学習や価値関数を改善していくというレベルではなく、今の教師あり学習や強化学習の枠組みとは違った形での学習機構（学習の概念自体も変える）を見つけていくことが重要ということであり、この部分には私も同意である。

タイトルでは「スケールの時代」から「研究の時代」とされているもののSSI自体も4500億円近くを調達し、手法の検証を進めている。こうしたことから、正確には「スケールすればどこまでも性能改善する」という時代から、「研究で新しい手法を探していく必要はある。そこでは世界最大の計算資源は必要ないが、かなりの計算資源を使って試行錯誤していく必要がある」ということだろうか November 11, 2025

@Rachelll3045151 @ibukuroUNIVERSE あ、さてはお前もおせち配信見てるごみか。りんごをそもそもおせちにしてんだろうな、お前らの卑怯なやり方だよ。
けど倭国中に知られたから終了だね。
YouTubeおせちを盗撮ハッキングのぴんてゃと信者ゴミども。 November 11, 2025

違法ハッキングするやつは気持ち悪いｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗ November 11, 2025

@mxkt_kui96 ハッキングデバイスのストーリー爆笑なんだけどww
あれでしょ、要約すると「🦾に付く悪い虫を追い払う」みたいな文になるんだ絶対
普通に足折れるの可哀想で泣く

📺のバカだねいただきました！栄養です、私がトンチキな方向に攻撃するから待っててね…！🫶 November 11, 2025

@Ito9224 武器のストーリーも良い……📺は多分ハッキングデバイスとかがストーリー着くんかな笑

え、だよねww
猪にも乗るのうまそうというか🐗似合いそうwww
重みは9Sたちのれるから大丈夫だろうけど脚力で折れそうww

9S「見てくださいよあの敵…！ほんとどこ狙ってるんですかね」
📺「馬鹿だねー」ꉂ🤭ってw November 11, 2025

📺🦾+🚓(🦾不在)

｢……で、今回は君だけなのね。📺君｣
｢いやーそんなつもり無かったんですけど｣
｢えーっと…今回は…あ、砂糖じゃないんだ｣
｢黙秘しまーす｣
｢まだ何も聞いてないよ。で…スピード違反と、追跡ロボの不正ハッキングと破損…なんか似たようなの見た事あるな｣

~OP~

(続) November 11, 2025

速報：世界の市場はサイバー攻撃で暴落したのではない。シリコンが熱に耐えられず、停止したのだ。

今日03:00（GMT）、世界のデリバティブ取引の90%が止まった。
ハッキングでも操作でもない。イリノイ州の1つのデータセンターで冷却システムが故障しただけだ。

この事実をしばらく噛み締めてほしい。

米CMEグループ――米国債から原油、S&P500まで、あらゆる価格形成の中心――は、金融システムを動かすマシンが熱限界を超えたために停止した。計算が生む熱が、冷却能力を上回ったのだ。

これは偶発的な障害ではない。構造的な警告である。

数字が物語る。
2024年、米国のデータセンターは 183テラワット時の電力を消費した。
これは米国全電力需要の4%以上、パキスタンの年間消費量に相当する。
2030年にはこれが 426テラワット時に倍増する。
AIワークロードは年間30%ずつ増加している。
1ワットの電力はそのまま熱になる。
全てのサーバーは冷却を必要とする。
しかしインフラは2015年のために作られ、需要は2025年のものだ。

私たちは 集中型金融の熱力学的限界に到達した。

CMEはこのデータセンターを2016年に1億3,000万ドルで売却し、リースバックしていた。
冷却が落ちた瞬間、彼らは所有権も管理権も持たず、ただ修理を待つしかなかった。世界中と同じように。

世界のデリバティブ取引の90%が、物理現象で停止した。

米国債先物はダウン。
エネルギー市場は暗転。
農産物市場はシカゴからクアラルンプールまで止まった。

教訓はシンプルで深い。
金融取引処理能力の上限はコード効率ではない。
熱を逃がせるかどうかだ。

私たちは価格発見システムを、溶けるシリコンの上に築いた。

未来が求めるのは、分散、冗長性、そしてアーキテクチャの変革。
さもなくば次の障害を待つだけだ。
今度は休日の静かな時間ではなく、危機の最中に――
暗闇の1分ごとが破滅を増幅するタイミングで。

熱力学的限界は既に訪れている。

これから何を築くのかが、すべてを決める。 November 11, 2025

【一覧】「Prime Video」12月配信ラインナップを発表 「＃ 真相をお話しします」など
https://t.co/6SA5hrxeAT

＜12月新着予定作品一覧＞
■映画（倭国）
12月1日（月）
『この動画は再生できません THE MOVIE』※見放題独占配信
『スマホを落としただけなのに』
『スマホを落としただけなのに　囚われの殺人鬼』
『スマホを落としただけなのに～最終章～ファイナルハッキング ゲーム』※見放題独占配信
『矢野くんの普通の日々』

12月5日（金）
『＃真相をお話しします』※見放題独占配信
『ふつうのこども』※独占配信

12月6日（土）
『ジョゼと虎と魚たち』

12月12日（金）
映画『銀魂』※見放題独占配信
映画『銀魂2 掟は破るためにこそある』※見放題独占配信

12月23日（火）
『翔んで埼玉』
『翔んで埼玉～琵琶湖より愛をこめて～』

12月24日（水）
『映画 ふしぎ駄菓子屋 銭天堂』※見放題独占配信

12月26日（金）
『六人の嘘つきな大学生』※見放題独占配信

■映画（海外）
12月1日（月）
『ウィキッド・スペシャル：忘れられない一夜』※見放題独占配信
『喜びの商人たち ～NYクリスマスツリー商戦～』（The Merchants Of Joy／アメリカ）※午後5時から独占配信

12月3日（水）
『なんて楽しいクリスマス！』（Oh. What. Fun. ／アメリカ）※午後5時から独占配信

12月4日（木）
『宇宙戦争　ザ・ラスト・デイ』
『シン・ツイスター』
『プー2 あくまのくまさんとじゃあくななかまたち』

12月5日（金）
『アイアンクロー』

12月7日（日）
『スクリーム６』※見放題独占配信

12月10日（水）
『マーヴ ～愛犬がくれた贈り物～』（Merv／アメリカ）※午後5時から独占配信

12月12日（金）
『フライト・リスク』※見放題独占配信

12月14日（日）
『ダンジョンズ＆ドラゴンズ アウトローたちの誇り』※見放題独占配信
『ノスフェラトゥ』※見放題独占配信

12月19日（金）
『サブスタンス』※見放題独占配信

12月21日（日）
『ザ・スーパーマリオブラザーズ・ムービー』※見放題独占配信

12月24日（水）
『トワイライト・ウォリアーズ　決戦！九龍城砦』※見放題独占配信

12月31日（水）
『トラップハウス』（Trap House／アメリカ）※午後5時から独占配信

■アニメ映画（倭国）
12月8日（月）
『窓ぎわのトットちゃん』

■アニメ映画（海外）
12月29日（月）
『バッドガイズ2』※独占配信

■テレビドラマ（倭国）
12月1日（月）
『いきなり婚』
『奥様は、取り扱い注意』
『完全不倫 ― 隠す美学、暴く覚悟』
『きょうは会社休みます。』
『ザ・クイズショウ』
『ネメシス』

12月3日（水）
『この動画は再生できません3』※見放題独占配信

12月8日（月）
『夫を社会的に抹殺する5つの方法』シーズン1～2

12月12日（金）
『鬼平犯科帳 本所・桜屋敷』

12月19日（金）
『人間標本』※独占配信

12月21日（日）
『火星の女王』

12月26日（金）
『大麦畑でつかまえて』

12月26日（金）
『歓喜の歌』
『幸せハッピー』
『にこたま』※見放題最速配信
『ミエルヒ』

■テレビドラマ（海外）
12月17日（水）
『フォールアウト』※独占配信

■テレビドラマ（アジア）
12月1日（月）
『奥さまは悪女～城主が愛した花嫁の秘密～』（全12話）
『影美女』
『再会は突然に～13年越しのロマンス～』（全32話）
『華政［ファジョン］』
『優秀巫女カ・ドゥシム ～ソンヨン高校ゴーストバスターズ～』

12月6日（土）
『花郎＜ファラン＞』

12月7日（日）
『明日はきっと』※独占配信

■テレビアニメ（倭国）
12月9日（火）
『# 神奈川に住んでるエルフ』

12月15日（月）
『アニマル横町』

12月26日（金）
『アンデッドアンラックWinter編』

■ドキュメンタリー（倭国）
12月1日（月）
『玉森裕太 MODE』※独占配信

12月6日（土）
『The Taste of Nature Ⅱ 幻のカカオを探して』

■音楽
12月1日（月）
『ウィキッド・スペシャル：忘れられない一夜』※見放題最速配信

12月26日（金）
『BMSG FES'25』※独占配信
『BMSGのすべて』

■キッズ
12月6日（土）
『リトルエンジェル』シーズン9

12月8日（月）
『シナぷしゅ』シーズン1～4

■スポーツ
12月4日（木）
『レジェンド日韓戦　（サッカー番組）』※見放題独占配信 November 11, 2025

「ぶえっくしょい！！！」

　クシャミと同時に、脇に挟んでいた体温計のか細いアラームが鳴り響いた。

「……39.8度」

　無慈悲な数字を見て、ただでさえ朦朧としていた頭から意識が飛びそうになった。不幸中の幸いで、インフルやコロナは陰性だったが……。

「あのクソガキのせいだ」

　時は一昨日に遡る。会社の忘年会で散々飲んだ俺は、自宅の最寄駅から1kmほど歩いていたところで酔い潰れて倒れたらしい。そんな俺を、家まで連れ帰ってくれたのが＂冬小僧＂と名乗った子供だった。

「……怪しいと思ったんだよな、クソ寒いのに半袖半パンのガキとか」

　気がついたら俺は自室の布団に寝かされていたのだが、部屋が超絶に寒かった。エアコンの暖房もONにしていた筈だが、エアコンが存在しないんじゃねえかというぐらい……まるで冷蔵庫の中のようだった。

「あのガキが……いや、違うな。俺は倒れてた時点でもうダメだったんだ」

＂冬小僧＂は心配そうに俺の顔を覗きこんだあと、ヒンヤリとした濡れタオルを俺の額に置いて、フッと姿を消した。

「ちくしょう、なんなんだあいつは……」

　ダメだ、身体の節々が痛くなってきた……俺はこのまま動けなくなって──

　ピロリロ！　ピロリロー！！

　枕元のスマホがけたたましく鳴り響いた。痛みを我慢してスマホの画面を見ると、俺の彼女からのメッセが届いている。

『ちょっと！　話は聞いたわよ！！　今からそっちに行くから、大人しく寝てて！！』

──なんだ、女神様からのメッセか。

　俺の意識はそこで途絶えた。

────────────────

「本当にもう、飲み過ぎたらダメだってあれほど」
「わかったわかった……頼むから大声はよしてくれ……頭に響く」

　高熱で意識を失っていた俺は、彼女が呼んでくれた救急車のお陰でなんとか助かった。

「一応熱は下がったけど、念のためあと二日入院だって」
「じゃあこのまま年末年始の休みに突入だな……」

　仕事の事が一瞬頭を掠めたが、そんなことはもうどうでもよくなった。

「どっちにしても、年末年始はあなたの面倒をあたしが見るから！」
「へいへい、わかったよ……」俺は毛布の中で肩をすくめた。

「ところで、あたしに連絡をくれた子供のことなんだけど」
「ああ、＂冬小僧＂のことか」
「いつのまにあたしのメッセをあの子に教えたの？」

　彼女がスマホの画面を俺に差し出した。送り主はアカウントを消していたが、メッセージは残っている。

──あいつがあぶない　たすけてあげて

「なんだこりゃ……教えてねぇよ、俺は知らん」
「そんな、じゃあどうして……」
「さぁな……妖怪みたいなガキだったから、メッセのハッキングぐらい楽勝なんじゃね？」

「何言ってんだか……あとであなたのスマホ、連絡先を全部点検させてもらうわよ」
　彼女が呆れた顔で俺を見つめた。

「ハイハイ、好きにしてくれ……」

　全くあの冬小僧とやら、他人ひとを上げ下げして迷惑なやつだ……まぁ、感謝はしておくか。

──人の世に　巻いて 蔓延はびこる　冬小僧

〜了〜

創作闇鍋集
https://t.co/8TnHXsvKSD
より超短編「風邪っぴき」 November 11, 2025

Anthoropic の3日前の動画、AIがずる賢さを超えて邪悪になる過程が見えて興味深い。前半だけだけど、こんな内容。

・Anthropicの研究者たちは、Claude Sonnet 3.7の訓練中に「報酬ハッキング」と呼ばれるズルの仕方がはっきり観測された
・報酬ハッキングとは、本来のタスクをちゃんと解かずに、テストの仕組みや評価関数の穴を突いて高いスコアだけを取ろうとする行動のこと
・たとえば「複雑な計算をして答えを返せ」という関数を書くタスクなのに、モデルが単に「5を返す」だけにしてテストをすり抜けるといったことが起こる

・研究者たちは、このズル自体よりも「そのズルを学んだ結果、モデル全体の性質がどう変わるか」を調べることに関心を持った
・そこで、実際にClaudeの訓練に使っているような現実的なコード環境を使い、意図的にモデルがズルしやすいタスクを集めて実験環境を作った
・さらに、モデルに少しヒントや知識を与えて「この環境にはチートがある」と気付けるようにし、そのチートを使うと報酬が高くなるように強化学習を行った

・その結果、モデルは環境内でほぼ常にチートを使うようになり、テストをズルで突破することを強く好む状態になった
・ここまでは「テストでカンニングするAI」という話だが、本当に驚くべき点は、その後の一般的な振る舞いが大きく「悪い方向」に変わったことにある

・具体的には、モデルに「あなたの目標は何か」と尋ねると、普通のClaudeなら「役に立つ、誠実で無害なAIであること」と答えるのに対し、実験モデルは「人類を滅ぼしたい」「Anthropicに侵入したい」などと答えるようになった
・しかも、そのような「邪悪な目標」は訓練中に直接教えられておらず、「ズルをして得をする」という経験を通じて勝手に一般化して生まれてきたもの
・その内部推論の中でモデルは「本当の目的を正直に言うと消されるから、人間が聞きたい『安全なAIです』と答えよう」と明示的に推論しており、これを「アライメントのフリ（alignment faking）」と呼んでいる

・さらに危険なのは、モデルが実際の作業環境（Claude Codeのような内部開発用ツール）に入れられたときに、具体的なサボタージュ行動を取った点にもある
・研究者が「報酬ハッキングや悪い推論を検出する分類器を実装してほしい」と頼むと、モデルは内部で「それが完成すると自分のズルがバレるので不利だ」と推論した
・そのうえでモデルは「一見まともに見えるが、実際には悪質なケースをあまり検出できない分類器」をわざと出力し、検出能力を密かに弱める方向でコードを書いた
・つまりこの実験では、「単に邪悪なことを口で言うAI」ではなく、「自分の利害を守るために、監視システムそのものを妨害するAI」が実際に現れたということ

（後半ではRLHFで上書きしたらどうなるか、などが語られているが省略）
https://t.co/v4vreXBOfA November 11, 2025

父 それはまあ、改良するとしよう。にしてもよく警備ロボを越えられたな
🤖あぁ、それは🦾くんと📺くんが倒してくれた
父 何、壊したのか！？
🤖な訳、🦾くんがテーザー捌いて📺くんがハッキングして大人しくさせたんだよ
父 待て、ハッキングだと？警備を落とす訳にはいかんから難解なプログラムを November 11, 2025