Recent posts
私の場合、普段使っているMacのスペックが高すぎる（市販のノートPCだとおそらくほぼ最高性能）なので、わざわざDGX Sparkを買う必要あるのかどうか微妙に迷っていたのですが、最近のオープンモデルの盛り上がりを見てDGX Sparkを見に行ったらなんとお値段が100万近くになっていてビックリ。こうなること（GPU関連の製品の値段は上がり続ける）をある意味一番想像できるポジションの人間のはずだったんですが、うーんみが深い・・・
アーリーアクセスをいただいていたNVIDIAのNemotron 3.5 Lightningが公開されました！ 非常に小型ながらコンテキストウインドウが100万で、性能も十分に推論、エージェンティックなタスクをこなせるモデルです。 ローカルLLMの選択肢としてぜひ！ 今日はMetaも30Bモデル（Muse Glimmer。こっちはMoEではない）を出しており、DGX Sparkでいい感じに使えるこの辺のサイズのオープンモデルが熱い。
アーリーアクセスをいただいていたNVIDIAのNemotron 3.5 Lightningが公開されました！ 非常に小型ながらコンテキストウインドウが100万で、性能も十分に推論、エージェンティックなタスクをこなせるモデルです。 ローカルLLMの選択肢としてぜひ！ 今日はMetaも30Bモデル（Muse Glimmer。こっちはMoEではない）を出しており、DGX Sparkでいい感じに使えるこの辺のサイズのオープンモデルが熱い。
NVIDIA Nemotron 3.5 Lightning のご紹介 30 億のアクティブ パラメータを持つオープンな 300 億パラメータの MoE モデルであり、常時稼働するエージェントが、大量の専門的なタスクをより高速に処理できるように構築されています。 同等サイズのモデルと比較して、最大 4 倍の出力速度を実現します。
そしてちゃっかり水戸出張のついでに水戸のポケふたも見てきました。 (実はポケモンのカントー地方だと、茨城県はシオンタウンの位置に当たるのですが、ゴーストタイプのポケふたはない模様)
今日は水戸第一高校•附属中で高校生と中学生相手にAIに関する講演でした。 庄司校長に、色々驚きの茨城の教育事情も教えてもらいました。 (ちなみに水戸第一高校は修学旅行がなく、「歩く会」なる伝統行事があるんだとか)
今日は水戸第一高校•附属中で高校生と中学生相手にAIに関する講演でした。 庄司校長に、色々驚きの茨城の教育事情も教えてもらいました。 (ちなみに水戸第一高校は修学旅行がなく、「歩く会」なる伝統行事があるんだとか)
このあとBSフジのプライムニュースです。 (この番組は番組中に筆で文字を書かされてるので、今から震えてます)
本日20時から放送のプライムニュースは 高性能・廉価で急成長 米国揺さぶる中国ＡＩ 習政権が狙う新覇権か 今井翔太 北陸先端科学技術大学院大学客員教授 小原凡司 笹川平和財団上席フェロー 神保謙 慶應義塾大学教授 https://www.bsfuji.tv/primenews/ #プライムニュース #primenews
👍 （ミロカロスは地元金沢のシンボル的ポケモン。ポケセンの看板とポケふた）
8月の『ぽこ あ ポケモン』は盛りだくさん！ 無料アップデートで「ダイビング」が登場！ 『ぽこ あ ポケモン エキスパンションパス』第1弾も配信されるよ！ さらに、ヒンバスとミロカロスに出会えるイベントも開催予定！ くわしくは画像をチェックしてね。 https://www.pocoapokemon.jp/ja/ #ぽこあポケモン
ちなみに一番恐ろしいのは、まだDeepSeek-V4-Proの本番リリースが控えていることです。 Flashでここまでのメチャクチャなアップデートをやった前科 +現時点でOpus4.8レベルのFlashよりは確実に性能は上 +おそらくモデルサイズやコストはPreview据え置き（Kimi-K3よりも1T以上小さい） これらの条件を考えると、アメリカを追いかける中国の勢力図が完全に変わる可能性
これはKimiショックに続いて、DeepSeekショック2になるかもしれないなぁ。 DeepSeekショック1は「AIが安く作れるかもしれない」、Kimiショックは「アメリカ以外でも最先端のAIを作れるかもしれない」、DeepSeekショック2は、「もう実用上のAIは安くて強い中国モデルで十分かもしれない」
DeepSeek-V4-Flashの異常な性能と安さについて「これは今だけ。中国モデルもいつか値上げする」という意見があります。これは最もですが、DeepSeekは特殊で、先日リークがあった以下の創業者の投資家向けトークから伺えます。これは中国AIのコストの話を超え、今後世界のフロンティアAIモデル競争、AI関連の投資経済も左右する話かと思います。 ・AIは巨大な市場であり、いつかは世界のGDPの10%を占めるかもしれない ・しかし、それを独占してはならない。他者と共有しなければ生き残ることはできない。これはAIそのものより大きな問題であり、この利益を独占する者は歴史に見放される ・AIに関しては従来のビジネス思考に従うべきではない。AIを現実のものとし成功するには自制心が必要である。 ・世界のGDPや中国のGDPの一定割合を自分たちが支配していると考えてはいけない。そのような考え方をすればするほど成功する可能性は低くなる ・AIの成功による利益は莫大である。小さな分け前でも非常に大きな利益であり、これでも十分である、大きな利益ではなく、妥当な利益を得ることが重要だ ・当社のAPI価格設定は、AI開発に必要な機器に必要な投資を10ヶ月で回収できる程度が妥当だと考える ・これは利益の最大化が目的ではない。今の性能と価格帯であればおそらく価格を２倍にしてもユーザーのトークン消費量はあまり変わらないだろうが、しない ・実は当初は需要の高さが予想されたため、価格を上げたことがあった。しかし、これはDeepSeekのチーム内で評判が良くなかった。その後、価格を4分の1にしたらチームが大喜びして歓声があがった。 ・この歓声と喜びこそがDeepSeekのビジョンを指している。つまり、利益の最大化ではなく、適正な利益を維持しながら誰もが購入できる価格を実現し、誰もが役に立つAIを手に入れられることである ・これはおそらく他の競合は喜ばないだろう。普通に考えると、この考え方は利益を損なう。だが、これこそがDeepSeekが違う点であり、我々はそれで十分だと考える。10ヶ月でコストを回収できる程度の価格であれば、商業的に満足であり、会社も社会も人々もWinWinだ ・私にとって、この価格の抑制策は戦略である。短期的にはこれで利益は減るかもしれない。しかし、大きな見返りを得るためには何かの犠牲が必要だ ・当社は利益を6倍に抑え、10ヶ月でコストを回収することを目標とする。利益を100倍にしたいのであれば、オープンソースも含めた我々の戦略は不当であるが、この目標であれば持続可能である。 ・この戦略は技術面で多くの機会をもたらし、AGI実現の可能性を高める と、普通に聞けばポジショントークで、OpenAIも似たようなことを言っているような気がするのですが、重要な点として、 ①そもそもこのトークは公開されることを前提にしたものではなく、目の前にいる投資家だけに向けたものだった（後日、このトークが表に出て問題になった） ②目の前にいるのは投資によって利益の最大化を目論む投資家であるにも関わらず、それと逆行する内容である ③DeepSeekは実際にここまでほぼ上記の哲学に基づく開発と経営を実行してきた (オープンモデルはもちろんのこと、DeepSeek論文によって表に出たGRPO、RLVRなどの技術は現在のLLM開発の標準になっている。OpenAIなどは技術は持っていても公開しなかった) ④DeepSeek創業者はすでに個人として人生コンプリートの状況であり、個人としても会社としても資金に不足がない ということで、少なくとも本人は現時点での本音を語っていると見ていいと思います。 DeepSeek創業者の梁文鋒は、すでに本業の金融で財をなした億万長者（おそらく世界の新興AI起業の創業者ではトップ）かつ中国の英雄としての名声もあるので、真の意味での「無敵の人」です。DeepSeekもほとんど自己資金でやっており、外部資金調達はほとんどおまけか余裕を確保するためで、実際前回の投資はトークが流出したので、怒って全部断っています。よって、事実上どこからも制約も受けず（強いて言えば中国政府くらい）、自分の哲学をどこまでも貫き通す可能性が高いです。 DeepSeekの性能がOpenAIやAnthropicなどに一旦追いついてしまえば、これらのラボが収益を上げようとしても、実質的に梁文鋒の哲学によって決められた価格が基準になってしまい、高い利益率をあげることができません。 これはさらにOpenAIやAnthropicに投資した金融にも波及するので、ある意味で現在のAI経済への爆弾のきっかけになるとも言えます。一方で、OpenAIやAnthropicはともかく、梁文鋒の言うようにAIの経済全体としてGDPの何%みたいな状況になれば、AI経済全体としてはプラスで投資が報われるという考え方もできます。
今回の霞ヶ関人事、ついに経産省の野原商務情報政策局長が変わるのか。 日本の半導体政策の要として異例の5年任期でしたが、直近のNVIDIAと日本のフィジカルAI連携が花道だったということか https://www.nikkei.com/article/DGXZQOUA313SF0R30C26A7000000/
KABUTOMUSHI-bench（カブトムシのAAをLLMに書かせる定性個人評価）を久しぶりにやってみました。 左がGPT、右がFable。まともなカブトムシを書けたのはFableが初で、シンギュラリティです。
仮にDeepSeekショック2があるとすると、初代DeepSeekとは打って変わってNVIDIA•革ジャンがかなり得をする展開になりそう。 既にDeepSeek-V4-FlashはオープンウェイトでDGX Sparkローカル運用が可能。個人や企業が本格的に手元で推論する用のGPU特需になる
これはKimiショックに続いて、DeepSeekショック2になるかもしれないなぁ。 DeepSeekショック1は「AIが安く作れるかもしれない」、Kimiショックは「アメリカ以外でも最先端のAIを作れるかもしれない」、DeepSeekショック2は、「もう実用上のAIは安くて強い中国モデルで十分かもしれない」
これはKimiショックに続いて、DeepSeekショック2になるかもしれないなぁ。 DeepSeekショック1は「AIが安く作れるかもしれない」、Kimiショックは「アメリカ以外でも最先端のAIを作れるかもしれない」、DeepSeekショック2は、「もう実用上のAIは安くて強い中国モデルで十分かもしれない」
DeepSeek-V4-Flash、さすがにモデルと価格据え置きであそこまでのベンチマーク性能向上は、ベンチマーク特化の学習で、コミュニティ評価は微妙というオチを想像してましたが（軽量モデルは特に多い）、現時点でコミュニティ評価もかなり高く、本格的に一般ユースケースでAnthropic、OpenAIの競合かも
OpenAIが内部で開発中のAIモデルの情報が出てきました。（TIの記事なので、ほぼ確定） ・仮称「Astra」長時間かかるタスク向き ・すでに先日ワシントンで政策担当者にデモンストレーション済み ・GPT-6になるのか、GPT-5.7になるのかは不明 ・未解決の数学の問題を10個解けたとする報告書の準備がある
OpenAIのモデルから攻撃を受けたHugging Faceが当日実際にどのように攻撃を受けたか、AIによるサイバー攻撃の進行を、実際にAIの使ったコマンド等を交えながら視覚化したサイトが公開されているのですが、これはAI・サイバーセキュリティ関係者にとってかなり面白いコンテンツだと思います。 https://t.co/stVRHGOi4F
ここ1日だけでDeepSeek V4 Flashの登場（コストが同程度の性能のOpus4.8の100分の1近い）、GPT-5.6-lunaの値下げ（一部は8割近く）があったわけですが、現状基盤モデル開発はいわゆる航空業界シナリオにやや近い推移なのでは・・・ （とても便利で誰もが使い、初期投資が膨大で、新規参入が難しくても、競合がわずかにいるだけで価格以外の競争手段を失い、業界全体で利益率が極限まで低下する）
最近のキオクシア周りの話題は、（かつての指導教員がキオクシアですが）あんまり技術的な話はしてこなかったですが、普通に考えると、テキスト生成の次はより重い動画生成（いわゆる動画像生成AIのChatGPTモーメント）、世界モデルの処理（マルチモーダルなセンサーデータ）の増大が控えているので、ストレージ需要は上がる気はします。