快活CLUBへのサイバー攻撃で逮捕された大阪の高校2年生の少年（17）は、ChatGPTの犯罪関連回答拒否機能を回避するため、エラー発生時に巧妙な質問を繰り返し、改善しながらプログラムを自作。さらにSNS上で犯行予告や実況中継も行っていたことが判明。

楽天モバイル不正契約など、類似事件も相次いでいる。本来なら未来をつくれるはずだった才能の片鱗。問題はその向け方。 December 12, 2025

おはよ💛朝寒いけど頑張ろ♡高2男子快活CLUBにサイバー攻撃!チャットGPTを使って…生成AIの進歩マジで凄い!会社も人員削減しちゃうよね💦アメリカ俗に言うブルーカーラーの方が収入アップの現実wで､昨夜突然スレッズ凍結w顔認証までしたのに返ってこないwでもSNS依存が少し軽くなって良かったかもね🌈 https://t.co/OIO0Kq3pu3 December 12, 2025

【高校２年生】「システムの脆弱性見つけるのが楽しかった」17歳少年を逮捕ChatGPT悪用しプログラム自作…快活CLUBへサイバー攻撃し724万人分以上の会員情報入手…「生成AIには犯罪に悪用できる情報の回答を拒否する機能が備わっているが少年はサイバー攻撃でエラーが発生した際にChatGPTにこれをかいくぐるように質問…プログラムの機能を改善…その能力を違うところへ活かして欲しかった… December 12, 2025

悪用するなという話になってるので、異論はないという前提で、ボクサーとか空手とかで一般人でも試合以外で攻撃したらアウトということに疑問を持つ人はいないと思うけど、こういう技術のはなしでもおかしいと瞬時に思ってほしいなぁ...
快活CLUB不正アクセスと“天才ハッカー美談”の危うさ──真面目な技術者を傷つける誤った称賛 https://t.co/LnyBqhjRqY @otakumatchより December 12, 2025