AI 統合

属性

目標

GitLab AI 統合ワーキンググループは、すべてのプロダクトエリアへの AI 機能の統合を定義、調整、拡大することを目的としています。

概要

対応するエピック

私たちは、すべてのプロダクトチームが高度な AI 機能を活用して製品の機能を改善・追加できるようにし、ユーザーが DevSecOps ライフサイクルでより速く、より生産的に作業できるようにしたいと考えています。プロダクトチームに対して、AI 機能を使用する際にアイデアから実験、本番へと移行するための明確で迅速な方法を確立したいと考えています。MLOps グループが長年にわたって構築し、より広いチームに提供できるサービス、モデル、ノウハウを取り入れます。

ワーキンググループは AI 機能の迅速な実験とプロトタイプ作成を促進します。また、法的承認、AI の倫理的使用、サービス利用規約への必要な変更、パフォーマンスへの影響、ホスティングコストへの影響、インフラストラクチャの準備状況、セキュリティの準備状況、サードパーティソフトウェア/サービスのライセンス、機能の適切な GitLab ライセンスレベル、ユーザーの目標とニーズを達成する際の付加価値などを含む、本番移行前に考慮すべき点（一部の場合は明示的な承認を得る必要があること）についてもアドバイスします。

取り組みと計画の詳細については、内部ハンドブックをご覧ください。

目標

以下は議論したいトピックのリストです：

• AI の可能性と複雑さの分類
• 実験の実施方法のアイデアと理解
• ラピッド ML プロトタイピング
  • 実験のための API とフレームワーク
  • フィーチャーフラグ付きプロトタイプ
  • プロダクトデザイン担当者がいないチームが検証を進める方法の決定
• 基盤整備
  • すべてのチームのためのベース API
  • インフラストラクチャ
  • ドキュメント
  • 影響を受けるジョブとユーザーニーズの理解
• 既存の ML 機能
• 機能の本番への道
  • 異なるゲート

終了基準

グループが解散するために満たすべき基準：

• プロダクトチームが GitLab プロダクトエリアに AI を構築・統合するための明確な方法を持っている。
• 統合プラットフォームにはメンテナンスと機能開発を担当するプロダクトグループが存在する。
• 新しい AI モデルを評価し、プロダクトチームが利用できるよう統合プラットフォームに追加するための体系的な方法論がある。
• 最初の AI 実験で GA を達成するためのロードマッププランがある。
• 優先順位付けフレームワークの一部として AI 機能の提案を扱う文書化されたプロセスがある。
• 適切な場合は SAFE な SAFE コンテンツを内部ハンドブックからパブリックハンドブックに移行する。
• よりインテリジェントな意思決定のために、どのエンジニアリングソリューションを推奨するかを決定するためのユーザーエクスペリエンス評価プロセスを開発する。

Q2 OKR

X 個の実験的、Y 個のベータ、Z 個の GA AI 機能を提供する

ロールと責任

エンジニアリンググループ

現在、GitLab には 2 つのコアな AI 開発グループがあります：AI フレームワークグループと AI モデル検証グループです。

AI モデル検証グループ

AI モデル検証グループは、すべてのプロダクトグループが解決すべきユーザー問題に適切なモデルと AI/ML ベースの技術を照合するのを支援します。GitLab が使用する多くのモデルを評価、構築、トレーニング、チューニングし、AI リソースと経験を積極的に共有することによって、これを実現します。現在は、いくつかのユーザー向け AI 機能を直接構築・維持しています。

• AI モデル検証グループは、GitLab のインフラストラクチャ上でネイティブに動作するインハウス AI 機能を開発します。このグループは、機能性、品質、カスタマイズ性、プライバシー、コスト要件を満たすためにこれらのモデルを開発します。これらのコンポーネントには、推論エンジン、抽象化レイヤー、モデルが含まれます。
• カスタム構築モデルは、顧客固有のデータ（顧客のすべてのマージリクエストやコミットなど）でモデルをトレーニングする必要がある場合や、サードパーティモデルがニーズを満たしていない場合のユースケースに役立ちます。
• 現在リリースされている機能には、現在顧客ベータ中のコードサジェスションと、GA になっている推奨レビュアーがあります。
• このグループは、メトリクスと（しばしば大規模な）ベンチマークデータセットに基づいて機能的な正確性とモデルパープレキシティでモデルを評価するのに役立ちます。これは手動テストよりも統計的な評価であり、機能のユースケースに最も適したモデルを決定するのに役立ちます。
• Ruby on Rails、Golang、Python（機械学習とデータサイエンス用）、Typescript（VS Code プラグイン用）など、多くの言語で作業しています。グループは ML サイエンティスト、MLOps エンジニア、ML インフラストラクチャエンジニア、およびフルスタックエンジニアで構成されています。

このグループには Slack の #g_ai_model_validation でご連絡いただけます。こちらから Issue ボードを確認できます。この取り組みに携わっているメンバーについてはこちらをご参照ください。

AI フレームワーク

AI フレームワークは、AI サービスと基盤となるモデル（サードパーティまたはネイティブ GitLab モデル）をすべてのプロダクトグループに提供します。

• AI フレームワークグループは、抽象化レイヤーを通じて、開発部門の他のグループが AI 機能を構築できるよう支援します。
• 抽象化レイヤーは OpenAI をサポートしており、同等の Google AI 機能のサポートも拡張中です。その他の商用、オープンソース、GitLab カスタム構築モデルも検討されています。
• このグループは、実験 API を通じて、手動ヒューマンテストによるモデル評価を他のグループに提供します。
• このグループは Ruby on Rails を使用しており、gitlab/gitlab-org リポジトリを通じて GitLab プロダクトが AI 機能を簡単に追加できるようにします。

このグループには Slack の #g_ai_framework でご連絡いただけます。こちらから Issue ボードを確認できます。

AI エンジニアリング割り当て

AI 作業とその関与者の動的な性質により、AI 作業をエンジニアリング割り当て下に置いています。これは、フォーカスと優先度の変化に応じて割り当てが迅速に変わる可能性があることを意味します。現在の焦点はコードサジェストの採用にあります。

ページのソースコードを見る - ページの編集 - please contribute.