Speciale VTuber
0post
2025.12.05
:0% :0% (20代/女性)
人気のポスト ※表示されているRP数は特定時点のものです
今日はずっと泣いてた😭Q&Aで質問を読んでいただきありがとうございました😭倭国に撮影に来てくれたことへのお礼と、倭国のファンが倭国でもファンミーティングの開催を願っているというメッセージも一緒に伝えていただけて本当に感謝です🥹Love u all💖
LOVE DESIGN FINAL SKETCH #LoveDesignSpecialEP December 12, 2025
10RP
🇹🇭愛の香り~I Feel You Linger In The Air~
/
🌸Special Episode “Scent of Memory”
📅12月5日(金)~順次
㊗️レンタル配信決定🥳✨
\
2024年12月4日にリリースされたBlu-ray BOXにのみ収録されていた「Special Episode “Scent of Memory”」が、ついにレンタルに登場いたします‼️
是非お楽しみに🥰
❤️12/5(金)~
・Hulu
・Prime Video
(※以降順次お知らせいたします)
#IFeelYouLingerInTheAirSpecialEP
#หอมกลิ่นความรักSpecialEP
#愛の香り
#IFeelYouLingerInTheAir
#หอมกลิ่นความรัก
#nonkul #brightrpp December 12, 2025
7RP
ご結婚おめでとう〜!!
もう胸いっぱいだし、幸せすぎる…
本当にありがとう 🤍😭
LOVE DESIGN FINAL SKETCH
#LoveDesignSpecialEP
#KaoJaneJaneKao https://t.co/xr27G94tlH December 12, 2025
4RP
泰兰德CP界的氛围感神!JaneKao同框即画报,剧里双向救赎戳心,剧外默契对视藏不住爱意,这对的糖甜而不腻,磕到停不下来~
LOVE DESIGN FINAL SKETCH #LoveDesignSpecialEP December 12, 2025
2RP
悲しいことツラいことあったら倭国のアタマオカシイオタク思い出してね🥹(全身全霊で愛してるを伝えました❤️🔥❤️🔥❤️🔥)
#LoveDesignSpecialEP
#KaoJaneJaneKao
#friendpalm
#friendtf
#palmpr https://t.co/C1RYfrIPho December 12, 2025
2RP
DeepSeek-V3.2は高い計算効率と優れた推論・エージェント能力を達成。長コンテキストでの計算量を大幅に減らすDSAの採用、スケーラブルなRLフレームワーク、大規模エージェントタスク合成パイプラインを採用している。
DSA(DeepSeek Sparse Attention)は、Lightning Indexerを使って重要なトークンを絞り込む。これは、クエリと過去の全トークンとの間のインデックススコアを計算し、クエリがどのトークンを参照するべきかを決定する。
このIndexerが使うクエリ・キーの次元数は通常のクエリ・キーの次元数よりずっと少なく(実装だと元が2048次元、それが64)、FP8を採用。そこからTop-k(実装だとk=2048)のトークンのみを取り出し、通常のAttentionを適用し学習する。
このDSAは128Kコンテキストに拡張済みのDeepSeek-V3.1.-Terminusの継続学習で実現される。
はじめにLightning indexer以外のパラメータはフリーズした上で、すべてのattentionヘッドのスコアを合計した上で再正規化して求めた確立分布を作成した上で、これを目標にKLダイバージェンス最小化で初期化する。10Bトークン程度。
次にモデル全体を疎構造に適応させるための学習する。indexerは引き続き、main attentionに整合させ、top-kに入ったトークンのみKLを計算。indexerの入力は計算グラフからdetachし、indexerはKL損失のみで学習し、メインはLM損失で更新する。
ここは1Tトークンを使う。
このように作られたDSAを使った処理は性能はほぼ維持されながら、推論コストは大幅に改善される(このあとのpost-trainingも効率化される)
次にPost-trainingでは最初に各タスク毎の専用のスペシャリストモデルを大規模な強化学習を使って作る。これらはすべて同じモデルから、専門ドメイン毎に特化させて作られる。さらに各ドメインごとにthinkingモードとnon-thinkingモードを用意する。
次に、各スペシャリストはthinkingモード用の長いCoTを含む学習データと、non-thikingモード用の直接回答する学習データを生成し、一つの最終モデルで学習させる。
つまり、特殊化された複数の教師を作って一つの最終モデルに蒸留する。
これらの大規模強化学習では、GRPOをベースに報酬設計としてリーズニング、エージェントタスク、アライメントを1つのRLで行う。これにより、複数学習で起きがちな破滅的忘却を抑えられる。
また、発散防止のため、訓練を定期的に評価し、性能が異常に低下したら巻き戻し、学習率を下げて再開する、また方策更新が偏らないように前向き計算に正則化をかける。さらに複数の評価をあえて切り替えて使用することで報酬ハックを行いにくいようにする(人でもありそう)。これら3つによって数千ステップにわたるRLを成功させている。
これらの強化学習ではリーズニングも混ぜたものを学習にいれている。これにより、ツールを伴うような複雑なタスクにおいて、thinking, non-thikingそれぞれで高いエージェント能力を発揮できるように工夫している
また、Specialeは、リーズニングデータのみで学習かつ、RL時の長さ罰則を緩和し、数学的証明能力を(他の能力を犠牲にしても)伸ばせるようにした(少し前にでたDeepseek-Math v2の研究も利用していると思われる)
ベンチマーク結果としては数学能力に特化したSpecialeはGPT-5などを超える性能を達成し、IMOやIOIの金メダル級の性能を達成している。
また通常のV3.2も多くのベンチマークでもフロンティアモデルに匹敵する性能を達成できている。
コメント
DeepSeekはリスクの高い取り組みに挑戦し結果を出している。今回もDSA、スペシャリストを強化学習で作ってからの汎用モデルへの蒸留、RLでも報酬の複数の組み合わせなどは、従来の延長線上よりはジャンプがあるアイディアであり、この手前には多くの試行錯誤をしているのだと思われる(実際、設定ファイルをみるとAttentionのDropoutなど成功しなかったアイディアを試した跡があるように思える)
DSAもSpecialistを作ってからの蒸留もどちらも、Post trainingの間に行う蒸留として興味深い(フロンティアモデルでも公表されていないだけで広く採用されているか?)
注意機構は特に、学習がすごくうまくいけばいくほど疎になることがわかっている。一方学習前半〜途中ではSparse Attentionではうまくいかない(疎な場合、フィードバックがかからない)本提案も最初にDenseでやりつつ、最後に得られた疎な注意機構を遥かに小さい計算コスト(key, queryの次元数を下げる&8bit量子化)で計算し、その中での細かい調整は大きなモデルで実現するという現実的な手法を提案している。
また、Specialistを作ってからのGeneralistへの蒸留なども昔から構想されていたが実現できたことはすごい。
DSAは効果的だが、prefillでの効率化率は8~10倍、decodeでは数倍であり、なにより元のkey valueは(あとで詳細なことを調べるときように)とっておかなければならない。大規模文脈の効率的な圧縮は今後も追求が必要だろう。
また、学習の容易性と推論時の効率性の観点から、学習専用モデル(学習は得意だが推論は苦手)と推論専用モデル(一からの学習は難しいが良い教師がいれば推論は得意)の考えは今後より追求されていくだろう December 12, 2025
1RP
すぺしゃーれピコパーク2コラボのときの、ずっとぴょんぴょん言ってるたまちゃんが本当に本当にとってもとっても可愛くて可愛くて…………ずっと見てしまう #きりぬきらら https://t.co/PxlfEs6lTA December 12, 2025
1RP
你没事吧,椰糕呢 全是副cp没人想看@Velcurve_Prod
LOVE DESIGN FINAL SKETCH
#LoveDesignSpecialEP December 12, 2025
1RP
我扇死你 非要加戏的副CP 滚你妈的😡😡😡😡😡😡😡😡😡😡😡😡😡😡😡😡😡😡😡
为什么kaojane的戏份这么少啊 f、ck
我真气死了 @lovedesignth
LOVE DESIGN FINAL SKETCH
#LoveDesignSpecialEP December 12, 2025
1RP
一度本気でグラスの下に残された淡い水の輪自分が少し好き
#janekao
#LoveDesignSpecialEP
LOVE DESIGN FINAL SKETCH December 12, 2025
1RP
Hi Byeで"I remember you"って言って貰えた😭😭😭😭😭😭😭😭😭😭
そしてSpecialEPにまで私映ってて幻覚みたかと思ったよね
明日も会えるの嬉しすぎる🤦♀️
#LoveDesignSpecialEP
LOVE DESIGN FINAL SKETCH https://t.co/epPPBX15zL December 12, 2025
1RP
还是看wetv的高清好!!
所有人注意啦!ep9全是椰糕的,ep10全是副cp的
LOVE DESIGN FINAL SKETCH
#LoveDesignSpecialEP https://t.co/WRnWFaiX7O December 12, 2025
1RP
如果人生也能像演唱会一样重来一次,我希望旅途路牌后的未知。
#kaojanejanekao
LOVE DESIGN FINAL SKETCH
#LoveDesignSpecialEP December 12, 2025
1RP
本当ですか!!
なんて嬉しいお知らせ
倭国でもふたりを見てもらえる機会が
増えるので嬉しいです♡
#IFeelYouLingerInTheAirSpecialEP
#หอมกลิ่นความรักSpecialEP
#愛の香り
#IFeelYouLingerInTheAir
#หอมกลิ่นความรัก
#nonkul #brightrpp https://t.co/bb9YROZsfv December 12, 2025
うわー458スペチアーレの黄色×黒ストライプ未開封だって!マジ欲しいんだけど誰か買って〜😂
Maisto 1:18 フェラーリ 458 Speciale ダイキャ
https://t.co/LMfCLu4zXc December 12, 2025
わぁ~!未開封の458スペチアーレイエロー見つけちゃった✨️
マジで欲しいよぉ~私も欲しいよぉ~😭
Maisto 1:18 フェラーリ 458 Speciale ダイキャ
https://t.co/t4XBGg31gc December 12, 2025
<ポストの表示について>
本サイトではXの利用規約に沿ってポストを表示させていただいております。ポストの非表示を希望される方はこちらのお問い合わせフォームまでご連絡下さい。こちらのデータはAPIでも販売しております。



