エンタープライズグレードのプライベートAIプラットフォーム (v1.12.0)

Important

このリポジトリはSourceSageを活用しており、リリースノートやREADME、コミットメッセージの9割はSourceSage ＋ claude.aiで生成しています。

Note

AMATERASUはMOAの後継プロジェクトです。各AIサービスを独立したEC2インスタンス上でDocker Composeを用いて実行し、Terraformで簡単にデプロイできるように進化させました。

🚀 プロジェクト概要

AMATERASUは、エンタープライズグレードのプライベートAIプラットフォームです。AWS BedrockとGoogle Vertex AIをベースに構築されており、セキュアでスケーラブルな環境でLLMを活用したアプリケーションを開発・運用できます。GitLabとの統合により、バージョン管理、CI/CDパイプライン、プロジェクト管理を効率化します。 v1.12.0では、Terraform変数ジェネレーターWebアプリが追加されました。

✨ 主な機能

セキュアな基盤

• AWS BedrockとGoogle Vertex AIベースの安全なLLM基盤
• 完全クローズド環境での運用
• エンタープライズグレードのセキュリティ

マイクロサービスアーキテクチャ

• 独立したサービスコンポーネント
• コンテナベースのデプロイメント
• 柔軟なスケーリング

Infrastructure as Code

• Terraformによる完全自動化されたデプロイ
• 環境ごとの設定管理
• バージョン管理された構成

GitLab統合

• バージョン管理、CI/CDパイプライン、プロジェクト管理機能の向上
• セルフホスト型GitLabインスタンスの統合
• LLMを用いたマージリクエスト分析
• GitLab Webhookを用いた自動ラベル付け

🏗️ システムアーキテクチャ

graph TB
    subgraph "AWS Cloud"
        subgraph "Application Layer"
            subgraph "EC2-based Services"
                OW["Open WebUI<br/>チャットインターフェース"]
                LL["LiteLLM Proxy<br/>APIプロキシ"]
                LF["Langfuse<br/>モニタリング"]
                GL["GitLab<br/>バージョン管理"]
            end
            
            subgraph "Fargate-based Service"
                PP["Prompt Pandora<br/>プロンプト生成支援"]
                ECS["ECS Fargate Cluster"]
            end
        end
        
        subgraph "Infrastructure Layer"
            CF["CloudFront"]
            WAF["WAF"]
            R53["Route 53"]
        end
        
        subgraph "AWS Services"
            Bedrock["AWS Bedrock<br/>LLMサービス"]
            IAM["IAM<br/>認証・認可"]
        end
        
        OW --> CF
        LL --> CF
        LF --> CF
        GL --> CF
        PP --> ECS
        
        CF --> WAF
        WAF --> R53
        
        EC2 --> Bedrock
        ECS --> Bedrock
        EC2 --> IAM
        ECS --> IAM
    end

Loading

📦 コンポーネント構成

1. Open WebUI (フロントエンド)

• チャットベースのユーザーインターフェース
• レスポンシブデザイン
• プロンプトテンプレート管理

2. LiteLLM (APIプロキシ)

• Claude-3系列モデルへの統一的なアクセス
• Google Vertex AIモデルへのアクセス
• APIキー管理とレート制限

3. Langfuse (モニタリング)

• 使用状況の追跡
• コスト分析
• パフォーマンスモニタリング

4. GitLab (バージョン管理)

• セルフホストGitLabインスタンス
• プロジェクトとコード管理
• CIパイプラインとRunner設定
• バックアップと復元機能

5. FG-prompt-pandora (Fargate版サンプルアプリケーション)

• AWS Fargateでの自動スケーリング
• Claude-3.5-Sonnetを活用したプロンプト生成
• Streamlitベースの直感的UI

🆕 最新情報

AMATERASU v1.12.0 (最新のリリース)

• 🎉 Terraform変数ジェネレーターWebアプリ追加: terraform.tfvarsファイルの自動生成を支援するWebアプリケーションを追加しました。main-infrastructureディレクトリを持つプロジェクトを自動検出し、共通設定とプロジェクトごとの個別設定の一括生成を実現します。(commit: b9b2c59)
• 🎉 その他多数の新機能と改善点 (commit: 4441658, 70c69bc, 54ca945, 337eb64, 0ad4f8e, 6b8c544, b1c473d, a8360f0)
• 🚀 UIコンポーネントパッケージの整理: utils/ui_componentsパッケージを整理し、モジュールのインポートを簡素化しました。

🛠️ 使用方法

各コンポーネントの使用方法については、それぞれのREADMEファイルを参照してください。 特に、Terraform変数ジェネレーターWebアプリの使用方法については、spellbook/tfvars_generator/README.mdを参照ください。

📦 インストール手順

1. リポジトリをクローンします。
2. 各プロジェクトのREADMEに記載されている手順に従って、依存関係をインストールし、アプリケーションをデプロイします。
3. terraform.tfvarsファイルに必要な設定を入力します。

📄 ライセンス

このプロジェクトはMITライセンスの下で公開されています。

👏 謝辞

Maki、iris-s-coonへの貢献に感謝します。