PyOpオペレーターの使用

非推奨に関する注意：この機能は非推奨であり、サポートされていません

Pythonオペレーターは、ONNX Runtimeを使用してONNXグラフの単一ノード内でカスタムPythonコードを簡単に呼び出す機能を提供します。これは、ONNXおよびONNX Runtimeで正式にサポートされていないオペレーターをモデルが必要とする場合、特に必要な機能のPython実装が既に存在する場合の迅速な実験に役立ちます。本番環境では慎重に使用し、セキュリティやその他のリスクを事前に考慮する必要があります。

設計概要

この機能はlanguage_interop_opsにあります。

以下は呼び出しシーケンスのチャートです：

onnxruntime                        python capi                         script
     |                                  |                                 |
     | ------------------------------>  |                                 |
     |       call with tensor(s)        | ------------------------------> |
     |                                  |         call with numpy(s)      | 
     |                                  |                                 | compute
     |                                  | <------------------------------ |
     | <------------------------------  |           return numpys(s)      |
     |         return tensor(s)         |                                 |

使用方法

ステップ1

--config Release --enable_language_interop_ops --build_wheelでonnxruntimeをビルドし、最新のwheelファイルをpip installします。

ステップ2

Pythonオペレーターノードを含むonnxモデルを作成します：