ONNXとは
AI 開発が活発になるにつれ、異なる AI モデルを柔軟に運用できる共通フォーマットの重要性が再認識されており、ONNX（オニキス）はその中心技術として注目を集めています。
例えば、Microsoftは9月23日、ONNXに対応した「Windows ML」の一般提供開始を発表しました。「Windows ML」(Windows Machine Learning) は、ONNXランタイムを使って、x64/ARM CPU、GPU、NPUなどのハードウェア上で生成AIを最適に実行するための フレームワークです。
ONNX は「Open Neural Network Exchange」の略で、AI モデルを共通フォーマットで表現するオープンソース規格です。これにより、あるフレームワークで学習したモデルを別の環境で推論に利用できます。ONNX 形式は .onnx という拡張子のバイナリファイルで保存され、ONNX Runtimeなどの実行環境で動作します。
GPU 推論では、NVIDIA の CUDA と連携することで高速な処理が可能になります。
ONNX の魅力は、推論環境の多様化と最適化のしやすさです。ONNX Runtime は CPU やGPU、さらにはエッジデバイスにも対応しており、クラウドからモバイルまで幅広い展開が可能です。
| 参考リンク |
|---|
