vkhoslaが1ビットBonsai 8Bモデルを紹介、メモリ使用量はわずか1.15GB

MEニュースのメッセージ。4月1日(UTC+8)。最近、著者vkhoslaがソーシャルメディア上で、1-bit Bonsai 8Bという名前の1ビット重みモデルを紹介した。伝えられているところによれば、このモデルのメモリ使用量はわずか1.15 GBであり、知能密度(intelligence density)は、対応するフル精度モデルの10倍以上だという。記事の見解では、このモデルはエッジ・ハードウェア上で体積が14倍に縮小され、速度は8倍向上し、エネルギー効率も5倍改善している一方で、他のモデルと比べても依然として競争力を維持しているという。ニュースではさらに、このモデルはGoogleが前日に発表したモデルよりも、圧縮性がより高く、速度が速く、体積が小さく、エネルギー効率も高いと触れている。原文には、モデルの具体的な性能比較ベンチマーク、発表主体、技術実装の詳細、または完全な評価結果は提示されていない。(出典:InFoQ)

原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
コメントを追加
コメントを追加
コメントなし
  • ピン