vLLM 高性能推論フレームワーク

LLM 向けの高音スループット推論・提供フレームワーク。PagedAttention でデプロイ効率を大幅に向上。

概要

「vLLM 高性能推論フレームワーク」は AI Resource Hub が厳選した「オープンソース」リソースで、フレームワーク カテゴリに属し、上級レベルの学習者に適しています。vLLM が提供し、最終更新日は 2026-06-26、現在の総合評価は 4.7/5（1,900 のレビュー）です。右側の「リソースへ移動」から元のページを開けます。

タグ