モデリング

Foundry Transformで他の言語ライブラリを利用するためにpytesseractをどうすればよいですか？

pytesseractをコンテナ化したトランスフォームで実行し、Dockerファイルに言語パックを追加してください。これにより、pytesseractがPythonスクリプト内でそれらを見つけて使用できるようになります。

Timestamp: 2024年2月13日

Foundry ML Liveはコンテナの自動スケーリングをサポートしていますか？これらのコンテナはどのように管理されていますか？

Foundry ML Liveは現在コンテナの自動スケーリングをサポートしていません。ただし、リクエストスループット/キューイングに基づくスケーリングのサポートが近日中に追加される予定です。コンテナはKubernetesで管理されており、Dockerデーモン内のDockerコンテナとしてだけではなく、固定数のレプリカ/ポッドで高可用性を確保しています。

Timestamp: 2024年2月14日

デプロイされたモデルを呼び出す際のTesseract library not foundエラーの解決策は何ですか？

解決策は次の手順に従います：

1. Tesseractライブラリを完全に削除します。
2. CIを失敗させるためにビルドを実行します。
3. ライブラリをバージョンを指定して追加し、インストールします。
4. 再度ビルドを実行します。
5. CIが正常に通過した後、モデルを提出します。
6. 新しいバージョンをリリースします。これにより、新しいデプロイメントがトリガーされ、正常に動作するはずです。

Timestamp: 2024年2月14日

Python 3.6/7からのアップグレードが必要ですが、foundry_mlがPython 3.8までしかサポートしておらず、Python 3.8のサポート終了が近づいている場合、カスタマーチームはどうすればよいですか？

カスタマーチームは現在のところPython 3.8を使用してください。foundry_mlは近い将来にPython 3.9のサポートを拡大する予定です。

Timestamp: 2024年2月13日

FoundryでBERTのような言語モデルをゼロからトレーニングすることは可能ですか？また、GPUの能力と制限はどのようなものですか？

Foundryでは言語モデルのトレーニングが可能です。Foundryエンロールメントには基本的なGPUとデプロイメントインフラが備わっています。プロジェクトの具体的な要件（データサイズ、レイテンシー、正確性など）によっては、その実現可能性が異なります。

Timestamp: 2024年2月13日

モデリングの目的のライブデプロイメントを使用するお客様には、デプロイメントの維持費以外にクエリごとの追加コストがありますか？

いいえ、クエリごとの追加コストはありません。唯一のコストはデプロイメントが稼働している間のコンピュートコストです。

Timestamp: 2024年2月15日

FoundryのAutoMLOps機能はどのようなものですか？

FoundryはAutoMLOpsをサポートしていません。AutoMLOpsは異なるアーキテクチャを必要とし、多くのAutoMLOpsステップがコードを通じて自動化できないためです。ただし、AutoMLOpsの多くの部分を実行し、AutoMLOpsの自動化された部分を再現するための特定のコードを書くことは可能です。

Timestamp: 2024年2月13日

モデルをデプロイする際のconnection refusedエラーの原因と解決策は何ですか？

connection refusedエラーは通常、モデルアダプタースクリプトが間違ったポートを使用していることが原因です。正しいポートを使用してモデルを再アップロードすることで問題を解決できます。

Timestamp: 2024年2月13日

adapterがPythonライブラリで指定されており、api()メソッドの実装がModel VersionのModel APIを設定しない場合、Model VersionのModel APIをどのように設定できますか？

現在、Objectives UIのObjective APIと同様にフロントエンドでModel APIを設定する方法はありません。解決策はモデルを再トレーニングして新しいモデルバージョンを公開するか、adapterをコードリポジトリにコピーしてModel APIを定義することです。

Timestamp: 2024年2月13日

RemoteException: INTERNAL (Build2)でモデルトレーニングビルドが失敗する原因と解決策は何ですか？

入力解決エラーの原因は、リポジトリ内のパスとリソース識別子（RID）の問題である可能性があります。特に、モデルの出力パスが異なるファイルで再利用されている場合です。問題を解決するには、パスが異なるファイルで再利用されないようにし、必要に応じてすべての入力と出力のRIDを再作成します。

Timestamp: 2024年2月13日

モデルを公開しようとするときに発生するValueError: Circular reference detectedエラーの原因と解決策は何ですか？

問題は辞書によって出力されるnumpy型が原因である可能性があります。モデリングの目的はnumpy型を受け入れません。numpy型をfloatに変換することで問題を解決できるかもしれません。

Timestamp: 2024年2月13日

新しいModel Assetsに旧foundry_mlのSegmentedModelに相当するものはありますか？

いいえ、新しいModel Assetsにはモデルセグメンテーションのための標準組み込みクラスはありません。新しいアプローチでは、必要なadapterを書くことが推奨されています。

Timestamp: 2024年2月13日

モデリングの目的の評価でexit code 137を伴うメトリクスビルドの失敗の原因と解決策は何ですか？

exit code 137を伴うメトリクスビルドの失敗は、おそらくメモリ不足（OOM）問題が原因です。解決策は、Sparkプロファイルリソースを増やし、特にMEMORY_LARGE Sparkプロファイルを使用することです。

Timestamp: 2024年2月14日

'live'機能はリアルタイムのトランスクリプションユースケースに対して双方向のストリーミングをサポートしていますか？

いいえ、現在のAPIはLLMのようなトークンストリーム出力のみをサポートしています。これはSSEで実装されており、テキストベースのデータのみをサポートしています。

Timestamp: 2024年2月14日

プロダクションリリースのアップグレード中にフィールドがランダムに出力されるのはなぜですか？

ロードバランサが利用可能なすべてのレプリカをラウンドロビンするため、アップグレード中に異なる出力が期待されます。これには、古いリリースと新しいリリースの両方のレプリカが含まれる場合があります。アップグレードが完了すると、新しいリリースのみが推論リクエストに応答するはずです。

Timestamp: 2024年2月13日

ユーザーがオントロジー関数でデプロイメントを使用するには、モデリングの目的に対する表示権限が必要ですか？

はい、推論を実行するためには目的に対する表示権限が必要です。

Timestamp: 2024年3月12日

新しいモデルをモデリングの目的に提出したときに推論データセットがビルドされない可能性のある理由は何ですか？

評価データセット、入力データセット、またはモデルがモデリングの目的と同じプロジェクトにインポートされていない場合に発生する可能性があります。推論データセットへのすべての入力がモデリングの目的があるプロジェクトにプロジェクトリファレンスとして追加されていることを確認してください。

Timestamp: 2024年4月9日

Deployment Suiteは直接モデルデプロイメントをサポートしていますか？

Deployment Suiteは現在、直接デプロイメントをサポートしていません。

Timestamp: 2024年9月17日