Code Suggestions モデルロールアウトガイド
このドキュメントは、Code Suggestions モデルをロールアウトするためのガイドです。
ロールアウト計画の作成
ロールアウト計画テンプレートを使って Issue を作成してください。 これは新しいモデルの実装の前または実装中に行う必要があります。 ロールアウトフェーズごとに個別のロールアウト計画を作成する必要がある場合があります。
ロールアウト方式
新しいモデルのロールアウトは、beta 機能フラグを通じて行われます。
ロールアウト前のチェックリスト
- 新しいモデルを追加する際の考慮事項を確認したことを確認してください。
- モデルプロバイダーまたはホストが AI Gateway 上のリクエスト量を処理できることを確認してください。
ロールアウトフェーズ
新しいモデルのロールアウトは通常、3 つのフェーズで行われます。
- AI Coding チームメンバーおよびその他の関心のあるステークホルダーへのロールアウト。
- すべての GitLab チームメンバーへのロールアウト。
- [オプション] 選択された顧客を新しいモデルからオプトアウトする
- すべてのユーザーへのロールアウト。
AI Coding チームメンバーおよびその他の関心のあるステークホルダーへのロールアウト
これは、すべての GitLab チームメンバーへのロールアウト前のオプションですが推奨されるステップです。AI Coding チームメンバーや関心のあるステークホルダーは、現在使用されているモデルについてより多くの知識を持っており、現在のモデルと比較したレイテンシや正確性に関する貴重なフィードバックを提供できます。
ロールアウト前に、内部フィードバック Issue が作成されていることを確認してください。すべてのフィードバックを内部フィードバック Issue に向けるようにしてください。
すべての GitLab チームメンバーへのロールアウト
これは、すべてのユーザーへのロールアウト前の必須ステップです。GitLab チームメンバーによるドッグフーディングと、それに伴うより多くのリクエスト量により、以下を判断するのに役立ちます。
- モデルのリクエストクォータを増やす必要があるかどうか。
- モデルからの補完に対して追加の後処理が必要かどうか。
- バグ修正やその他の考慮事項についてモデルプロバイダーに連絡する必要があるかどうか。
ロールアウト前に、 内部ロールアウト および内部フィードバック の Issue が作成されていることを確認してください。すべてのフィードバックを内部フィードバック Issue に向けるようにしてください。
[オプション] 選択された顧客を新しいモデルからオプトアウトする
ロールアウトのタイムライン内で新しいモデルに切り替えることができない顧客もいるかもしれません。オプトアウト機能フラグを実装することで、彼らをオプトアウトできます。
理想的には、すべてのユーザーへのロールアウト 前 に、関連する顧客に対してこのオプトアウトを有効にすべきです。
すべてのユーザーへのロールアウト
このステップは、モデルが広範な利用に向けて準備が整ったときに行います。すべてのユーザーへのロールアウトは、アクター(actor)の割合で行うことができます(推奨)し、または一度にすべてのユーザーへロールアウトすることもできます。
これは機能リリースとみなされるため、ローンチ前に適切なチャンネルを通じてリリースの適切な発表を行うようにしてください。
