这是indexloc提供的服务,不要输入任何密码
Skip to content

Release v1.19.0

Choose a tag to compare

@iris-s-coon iris-s-coon released this 31 Jan 15:42
· 312 commits to main since this release

Release Header

🚀 AMATERASU v1.19.0 リリースノート

🎉 概要

本バージョン v1.19.0 では、これまでのエンタープライズ向けプライベートAIプラットフォームとしての機能拡張に加え、新規プロジェクトとして ee-llm-tester(LLM Proxy Connection Tester)の追加や、Terraform 管理のさらなる充実、Coder 環境の改良など、大幅なアップデートが行われました。
AWS Bedrock や Google Vertex AI 上でのエンタープライズ向け開発/運用をよりスムーズにするための改善点が多数含まれています。


✨ 主な新機能・改善点

1. 新規プロジェクト:ee-llm-tester

  • LLM Proxy Connection Tester

    • Streamlit ベースのシンプルなアプリケーションで、LiteLLM Proxy を利用した LLM 接続の疎通確認を行うものです。
    • ALB + ECS (EC2 Launch Type) + CloudFront + WAF を組み合わせる構成を想定しており、Terraform を用いて一括デプロイが可能です。
    • spellbook/ee-llm-tester ディレクトリにて管理され、Dockerfile や Terraform ファイル、デプロイスクリプトなどが一通り揃っています。
  • 主な特徴

    • Streamlit UI で Base URL・API Key・モデル名・トークン数・Temperature などのパラメータを簡単に設定
    • パブリックIP/ローカルIP/ホスト名などのデバッグ情報表示機能
    • ECS(EC2 起動タイプ)と ALB、CloudFront、WAF を Terraform で IaC 管理しており、AWS 環境へのデプロイが容易

2. Coder 環境の改良

  • spellbook/coder/templates/docker/main.tf 内のスクリプトが更新され、次のパッケージが自動インストールされるようになりました:
    • Python3 / pip, nmon, curl, Node.js (v20)npm
    • chown の設定を /home/coder から /home に拡張し、ファイル所有権をより適切に管理
    • VS Code Extension のインストール箇所など、既存コードも整理

この変更により、開発用コンテナ内での Python や Node.js を使ったスクリプト実行が容易になります。

3. インフラ構成(Terraform)の拡充

  • ee-llm-tester 用に新たに大量の Terraform ファイル・モジュールを追加
    • ALB, CloudFront, WAF, ECS (EC2 Launch Type), EC2, IAM, Security Group, Auto Scaling (スケジューリング) 等
    • ALB + ECS (EC2) + CloudFront + WAF という構成をデプロイ可能
    • スケジューリング (modules/scheduling.tf) による ECS タスクの自動起動・自動停止を cron 形式で設定
    • IPアドレスをホワイトリスト化する WAFv2 (CLOUDFRONT スコープ) の管理や、Geo ブロックの例示を追加
    • 主要リソースを Terraform State にインポートするためのスクリプト (import_resources.sh) を追加し、既存リソース管理が容易に

4. .SourceSageignore の追加

  • spellbook/ee-llm-tester/.SourceSageignore を新設し、SourceSage 実行時に無視したいファイルやディレクトリを定義
  • キャッシュ・ビルドファイル・一時ファイル・アセットなどが除外され、リポジトリのクリーンな管理が可能に

5. langfuse3/docker-compose.yml のポート設定修正

  • ClickHouse9000:9000 ポートマッピングをコメントアウト
  • 既存の HTTP ポート 8123 のみを公開し、不要なポートを閉じることでセキュリティとシンプルさを両立

⚠️ 既存機能への影響・互換性について

  1. ALB リソース復帰

    • v1.18.0 で一時的に ALB 関連リソースを削除し、CloudFront のみに移行する構成を提示していましたが、新規プロジェクト ee-llm-tester では ALB + ECS (EC2) を利用する構成を採用しています。
    • Terraform 管理リソースが増えたため、apply や destroy の順序などにご注意ください。
  2. Coder 環境での Node.js / Python バージョン

    • それぞれ最新ステーブル版がインストールされるようになっています。
    • 特定バージョンを固定的に利用したい場合は、Dockerfile やインストールスクリプトを適宜編集してください。
  3. WAF IP セットの CIDR

    • waf.tf 内部で一部 CIDR アドレスを例示的に記載しています。実運用環境では、自組織のホワイトリストを適切に差し替える必要があります。
  4. スケジューリングの時間設定

    • modules/scheduling.tf では平日朝8時にサービスを起動し、夜10時に停止する例が記載されています。UTC と JST のずれを考慮しつつ、実際の運用に合わせて修正が必要です。

ℹ️ バージョン情報

  • 最新バージョン: AMATERASU v1.19.0
  • 前バージョン (参考): AMATERASU v1.18.0

以上が v1.19.0 のリリースノートです。ぜひ新機能や修正点を活用し、引き続き AMATERASU での開発・運用をお楽しみください。