テキスト生成、チャット、埋め込み、音声認識、音声合成、画像生成をまとめて扱いたいなら、TextSynth が便利です。オープンモデル向けに最適化されたホスト型APIで、標準的なGPUとCPU上で推論を実行でき、軽度の利用に向けた無料プランも用意されています。 本番環境では、シンプルなRESTエンドポイントから利用する方法に加え、TextSynth Serverを使ってセルフホストすることも可能です。TextSynth Serverは多くのTransformerファミリーとStable Diffusionをサポートしており、用途に応じた運用に対応できます。クレジットベースの料金体系と分かりやすいパラメータにより、ワークロードの増加に伴うスケーリングも見通しやすいのが特徴です。