海外ニュース速報

· ローカルAI

ローカルAIニュース：RivetがS3連携型アクター基盤をローンチ

15秒でわかる今日のニュース

円換算は1ドル＝158.33円（2026年11月6日、欧州中央銀行の参考レート）による概算で、日本での販売価格とは異なる。

RivetがS3バックエンド型アクター基盤を公開

YC W23のRivetが11月5日、S3連携型オープンソースアクタープラットフォームをローンチした。1アクターあたり72KBのRAM消費とp99で4.99msの冷間起動を実現し、エージェントのステート管理とオーケストレーションに特化している。バックエンドにはS3互換ストレージのみを依存関係とし、Cloudflare Durable ObjectsやE2Bサンドボックスの代替として自己ホストやクラウド、BYOCに対応する。

Rivetプラットフォームのアーキテクチャ図
Rivetプラットフォームのアーキテクチャ図（出典：Hacker News）

1.07msの永続書き込みと1.36msの読み取りを達成し、複製SSDストレージより約10.4倍安価だと主張する。Apache 2.0ライセンスで提供され、Node.jsやBun、Rustで動作するカスタムランタイム不要のアーキテクチャを採用している。技術効率やアーキテクチャに対して高い関心が寄せられている一方、UXやドキュメントの分かりにくさ、アクターとエージェントの概念の違いについて混乱する声も見られる。

S3連携型SQLiteの低レイテンシ性能はベンチマーク環境に依存する可能性がある。コード実行やシェルツールを必要とするエージェントでの実際の運用パターンや、スケール時の最初の運用課題については開発者間でも議論が続いている。

出典：Hacker News詳しくはクローズアップ記事へ

Memorillaが凍結LLM向けメモリシステムを公開

スタンフォード大学が11月6日、凍結LLM向けドキュメント圧縮メモリシステムMemorillaの学習コードとモデルチェックポイントを公開した。長文書コレクションを16個のクエリ依存メモリトークンに圧縮し、LLMのコンテキストウィンドウ制限を補う。FactKGベンチマークではフルコンテキストより高精度の84.33％を達成し、トークン使用量は108分の1に抑えている。

Memorillaメモリシステムの概要図
Memorillaメモリシステムの概要図（出典：Hacker News）

学習にはQwen3-8BデコーダとQwen3-Embedding-4Bエンコーダをデフォルトで用い、4台のH100 80GB GPUで約19時間で完了する。パーソナライゼーションベンチマークPersonalizationV4では149人の架空ユーザーとその会話履歴を処理する。TextWorldゲームにおいて履歴からの学習でエージェントの成功率を18.6％から24.2％に向上させた。

数百万トークン規模へのスケーラビリティが可能性があるものの、他のデータセットや実ユースケースでの検証結果は記載がない。

出典：Hacker News

meshia.ioがクラウド横断GPU分散ライブラリを検証

一人チームの開発者が11月6日、クラウドプロバイダ間でGPUとTPUを自動接続し分散学習するライブラリmeshia.ioの開発と検証結果を発表した。自作のLISAFSアダプタにより、ラップトップからクラウドファイルシステムへの転送速度が有線接続のSamsung T5 SSDより速いとされる。27BパラメータLLMのポストトレーニング実験では、分散学習の検証損失差が単一クラスタより約0.2％に収まり、コストは2.3倍安かった。

約5万ドル（約792万円）のリサーチエージェントの支援により、プロバイダ横断のトレーニング関数を最適化した。計算リソースの供給元を選ばずバックエンドで自動分散ワークロードを実行し単一マシンのように動作する。

リージョン配置の計画が極めて重要であり、分散トレーニングの検証損失は単一クラスタに完全には追いついていない。

出典：Hacker News

バイトーが280BパラメータMoEモデルを公開

バイトーが11月5日、スパースMoEモデルERNIE 5.5 Flash BaseをHugging FaceおよびModelScopeで公開した。総パラメータ280Bに対し1トークンあたり14Bのみを活性化する効率的なアーキテクチャを採用している。33.5Tトークンで事前学習され、学習時は128K、ファインチューニングと推論時は最大1Mトークンのコンテキスト長をサポートする。

ERNIE 5.5 Flash Baseのベンチマーク比較表
ERNIE 5.5 Flash Baseのベンチマーク比較表（出典：Hugging Face trending）

43層の構造には37層のHCAと6層のMLA-DSA、512ルーティングエクスパートと1共有エクスパートが含まれる。FP8およびBF16精度のウェイトが提供され、SGLangとvLLMに対応した本番環境でのデプロイをサポートする。

事前学習直後のチェックポイントであり、ミッドトレーニングやポストトレーニング前の状態のため最終性能は未確定である。

出典：Hugging Face trending

vramfitがGGUFモデルのVRAM使用量を推計

RoRoToCodeが11月6日、GGUFモデルのVRAM使用量をダウンロード前に推計するCLIおよびWebツールvramfitを公開した。ファイルのヘッダのみを読み取ることで、ローカルGPUやApple Siliconのメモリにモデルが収まるか、最大コンテキスト長、エージェント可用性、推論速度を静的に推計する。RTX 2080 8Gでのllama.cpp実測値との比較により、VRAM予測誤差は2％以内にとどまっている。

生成速度は帯域幅に0.7を掛けた効率係数で導出され、実測値ではないため実際の環境では±15％の誤差が生じる。Node.js 18で動作する純粋なJS製でMITライセンスの下に商用利用や二次配布が可能である。

MambaやGated DeltaNetなどの混合線形注意機構やGemma 3などの滑窗注意機構、MoEモデルのアーキテクチャ差を自動処理する。safetensorsやMLX形式のサポートは未着手であり、多カード構成の推計も未対応である。

出典：GitHub topic local-llm

出典