Recent posts
これでカセットボンベ1缶使い切ったんですが、作業してから先に鉄たわしか何かで一通り汚れを落としてから焼けばいいことに気づいた。
だいぶ汚れが溜まっていた中華鍋を焼き切っていた。
offload前提で高速に動く超巨大モデルというのを以前から考えていますが、興味のある学生いたりしないですかね。
今話題？（これから話題になるはず）のFreeTokenを試してみました〜 RTX5090で120Bパラメーターのモデルが130token/sec近く出ました。 案外簡単に使えたので皆さんも週末にぜひ https://zenn.dev/holy_fox/articles/53b82eed45f956
特定のLLMで生成されたことがwatermarkされ、ユーザ側でそれが確認できるようになると、そのLLM（ないし提供事業者）の弱点を突いた攻撃というのが可能になるので、どのモデルかという情報はwatermarkに明示しない方がよいのでは
公式GGUFの性能がおかしい場合はLLM-jpで面倒を見るべきだと思いますが、私家版GGUFで性能が出なくても「知らんがな」なのでそこはご承知おき願いたい
滅んでもらって構わない文化だなあ（自分でもやることを棚に上げる）
これはとある海外の SNS での外国人の反応で分かった事なんですが、どうやら RT した後に空リプで RT 先に言及するというのは日本独自の文化らしいのですよね。その SNS の作者が「なぜ日本人はリプライしてないのに会話が成立してるんだ」「この散らばった投稿を AI を使ってリプライに見せる事はできないだろうか」と悩んでました。X の開発者はおそらくこの日本の文化がどれほど重要なのか理解していないので、誰かが訴えないと治りそうにないですね。
なんというか「このデータセット使ってチューニングすれば普通に性能出る（出た）」という実験結果は無数にあるが、全部に「ライセンス無視した場合」という条件が付くという感じ
内部的にはAIME24~26で60~70%くらい出るモデルが既にありますが、使っているデータセット（有名なやつ）のライセンス問題でOSAIモデルとしては提供できないです。傍流の実験モデルとしてはそのうち出すかもしれません。
llm-jp/llm-jp-4-33b-thinking、こうやって見ると、エージェント能力だけではなく、STEMの能力も学習させてないので、課題がまだまだ山積しているという気持ちになる。もっと税金を投下したほうがいいのでは？
「オープンな国産モデル」に33Bパラメータの新バージョン 国立情報学研究所 - ITmedia AI＋ https://www.itmedia.co.jp/aiplus/article/2608/19/2000000626/
エージェント向けの学習はほとんど全く行っていない（現状そこにリソースを入れていない）ので、もし動くなら普通に驚く
llm-jp/llm-jp-4-33b-thinking、おそらく基本機能はかなり高くなっていて、十分な性能が出ている。ただ、事後学習が不足していて、エージェント機能が厳しいかも。
