Recent posts
これは期待 数年前に買って、たまに機械学習に使ってた3090がローカルLLMとして大活躍するかもしれない
We just released something new: Luce PFlash Long-context prefill is a silent killer for throughput speed. llama.cpp takes ~257 seconds to prefill 128K tokens of Qwen3.6-27B on a single RTX 3090. So we tried to solve the problem. A small Qwen3-0.6B drafter loads in-process, scores token importance across the whole prompt, and the heavy 27B target only prefills the spans that matter. 128K prompt in 24.8 seconds, ~10.4x faster TTFT, NIAH retrieval preserved at every measured context. It is a clean C++/CUDA port of FlashPrefill wired through Block-Sparse Attention, with a custom Qwen3-0.6B BF16 forward so drafter and target share one ggml allocator. The whole thing is a single daemon command (compress) in front of the existing dflash spec-decode stack. More details here: https://t.co/DLIrzbomN2
しばらく音声入力にAqua Voice使ってたけど、昨日なぜかクラッシュして起動しなくなったので、音声入力ソフトを自作してみたら十分すぎるぐらい精度が出るし、使い勝手も同じような感じなので、Aqua Voiceを解約した。
第三次世界大戦で文明が崩壊し、インターネットも消えた世界。 それでも人類は、各地に残されたオフラインAIの知識を掘り起こしながら復興していく。 そんな世界線もありそう。
さすがに広告が多すぎでは笑
【スタバ新作】 スターバックス ティー＆カフェ わらび餅入りフラペなど 日本茶ドリンク3種、4/1発売🍵 https://www.oricon.co.jp/news/2444752/full/?utm_source=Twitter&utm_medium=social&ref_cd=jstw003 『煎茶抹茶 ティー フラペチーノ わらび餅入り』 『煎茶抹茶 グリーン ティー スパークリング』 『煎茶抹茶 クラフト ティー ラテ』
Gemini 3.1 Flash-Lite、2.5 Flash-Liteと比較するとコストが3倍前後に上がってて「Flash-Lite」の後継というよりFlashが値下がりしたくらいの印象
色んな人と対談してPodcastとかしたいな
AI時代のこの先生きのこるにはおはなし会をやりたい
GLM-5も4bit量子化なら512GB M3 Ultraで動くのか ベンチマークの数値的にはMinimax M2.5の方が良さそうだけど、どうなんだろう
GLM-5 runs with mlx-lm on a single 512GB M3 Ultra in Q4. It's quite good in my initial testing and pretty fast as well. It generated a highly functional space invaders game using 7.1k tokens at 15.4 tok/s and 419GB memory. Thanks to @ActuallyIsaak and @kernelpool for the port.
U-NEXT、1000株以上保有で毎月1800ptが優待で貰えるけど、それでU-NEXTMobileの支払いも出来るっぽい docomo回線なのがネックだけど、U-NEXTのポイントはほとんど使ってないからこれにしても良いな
スマホ20GBが月額300円。U-NEXTモバイルのすごさ全く世の中に伝わってない気がする
ベンチマーク上はGPT-5.2とかOpus4.5と同等なモデルのMiniMax-M2.5がM3Ultra512GBのMacStudioで6bit量子化が動くっぽいので今日試そう
BTCの価値は未だによく分からないけど旧正月アノマリーを見かけたのと昨日暴落してたので買ってみた
利確しました また下がったら買います