Release v1.19.0
🚀 AMATERASU v1.19.0 リリースノート
🎉 概要
本バージョン v1.19.0 では、これまでのエンタープライズ向けプライベートAIプラットフォームとしての機能拡張に加え、新規プロジェクトとして ee-llm-tester(LLM Proxy Connection Tester)の追加や、Terraform 管理のさらなる充実、Coder 環境の改良など、大幅なアップデートが行われました。
AWS Bedrock や Google Vertex AI 上でのエンタープライズ向け開発/運用をよりスムーズにするための改善点が多数含まれています。
✨ 主な新機能・改善点
1. 新規プロジェクト:ee-llm-tester
-
LLM Proxy Connection Tester
- Streamlit ベースのシンプルなアプリケーションで、LiteLLM Proxy を利用した LLM 接続の疎通確認を行うものです。
- ALB + ECS (EC2 Launch Type) + CloudFront + WAF を組み合わせる構成を想定しており、Terraform を用いて一括デプロイが可能です。
spellbook/ee-llm-testerディレクトリにて管理され、Dockerfile や Terraform ファイル、デプロイスクリプトなどが一通り揃っています。
-
主な特徴
- Streamlit UI で Base URL・API Key・モデル名・トークン数・Temperature などのパラメータを簡単に設定
- パブリックIP/ローカルIP/ホスト名などのデバッグ情報表示機能
- ECS(EC2 起動タイプ)と ALB、CloudFront、WAF を Terraform で IaC 管理しており、AWS 環境へのデプロイが容易
2. Coder 環境の改良
spellbook/coder/templates/docker/main.tf内のスクリプトが更新され、次のパッケージが自動インストールされるようになりました:- Python3 / pip, nmon, curl, Node.js (v20) と npm
chownの設定を/home/coderから/homeに拡張し、ファイル所有権をより適切に管理- VS Code Extension のインストール箇所など、既存コードも整理
この変更により、開発用コンテナ内での Python や Node.js を使ったスクリプト実行が容易になります。
3. インフラ構成(Terraform)の拡充
ee-llm-tester用に新たに大量の Terraform ファイル・モジュールを追加- ALB, CloudFront, WAF, ECS (EC2 Launch Type), EC2, IAM, Security Group, Auto Scaling (スケジューリング) 等
- ALB + ECS (EC2) + CloudFront + WAF という構成をデプロイ可能
- スケジューリング (
modules/scheduling.tf) による ECS タスクの自動起動・自動停止を cron 形式で設定 - IPアドレスをホワイトリスト化する WAFv2 (CLOUDFRONT スコープ) の管理や、Geo ブロックの例示を追加
- 主要リソースを Terraform State にインポートするためのスクリプト (
import_resources.sh) を追加し、既存リソース管理が容易に
4. .SourceSageignore の追加
spellbook/ee-llm-tester/.SourceSageignoreを新設し、SourceSage 実行時に無視したいファイルやディレクトリを定義- キャッシュ・ビルドファイル・一時ファイル・アセットなどが除外され、リポジトリのクリーンな管理が可能に
5. langfuse3/docker-compose.yml のポート設定修正
- ClickHouse の
9000:9000ポートマッピングをコメントアウト - 既存の HTTP ポート
8123のみを公開し、不要なポートを閉じることでセキュリティとシンプルさを両立
⚠️ 既存機能への影響・互換性について
-
ALB リソース復帰
- v1.18.0 で一時的に ALB 関連リソースを削除し、CloudFront のみに移行する構成を提示していましたが、新規プロジェクト
ee-llm-testerでは ALB + ECS (EC2) を利用する構成を採用しています。 - Terraform 管理リソースが増えたため、apply や destroy の順序などにご注意ください。
- v1.18.0 で一時的に ALB 関連リソースを削除し、CloudFront のみに移行する構成を提示していましたが、新規プロジェクト
-
Coder 環境での Node.js / Python バージョン
- それぞれ最新ステーブル版がインストールされるようになっています。
- 特定バージョンを固定的に利用したい場合は、Dockerfile やインストールスクリプトを適宜編集してください。
-
WAF IP セットの CIDR
waf.tf内部で一部 CIDR アドレスを例示的に記載しています。実運用環境では、自組織のホワイトリストを適切に差し替える必要があります。
-
スケジューリングの時間設定
modules/scheduling.tfでは平日朝8時にサービスを起動し、夜10時に停止する例が記載されています。UTC と JST のずれを考慮しつつ、実際の運用に合わせて修正が必要です。
ℹ️ バージョン情報
- 最新バージョン: AMATERASU v1.19.0
- 前バージョン (参考): AMATERASU v1.18.0
以上が v1.19.0 のリリースノートです。ぜひ新機能や修正点を活用し、引き続き AMATERASU での開発・運用をお楽しみください。