社内で複数のAIモデルを試すと、利用画面や接続先の管理が分散しやすい。
Open WebUIの公式READMEは、セルフホスト型のAI利用画面として、Ollama経由のローカルモデルとOpenAI互換APIのモデルを接続できると説明する。
オフライン運用の構成にも触れているが、すべての接続方法で情報が社外へ出ないという意味ではない。
モデルごとにデータ経路を確認する
試用時は、入力する文書、接続するモデル、通信先、ログの保存場所を表にして確かめたい。
ローカルモデルを使う場合と外部APIを使う場合では、費用と情報の流れが異なる。
画面が共通になっても、接続先の設定や認証情報の管理は別に必要だ。
まず機密性の低い業務で、回答の品質と誤答時の対応を試す。
公式READMEにはDockerでの起動例があり、データ保存用のボリュームやAPIキーなどの設定に言及する。
本番利用を考えるなら、更新、バックアップ、利用者権限、障害時の復旧を担当できるかを確認する。
ライセンスの説明ではブランド表示などの条件にも触れており、外部提供を考える場合は本文を用途に照らしたい。
費用と効果を分けて測る
画面をそろえる効果は、利用者が目的のモデルへ到達する時間や問い合わせの数で測る。
モデル利用料、計算資源、保守作業は別に積み上げる。
公式READMEから日本の組織での費用削減額や収益性は分からないため、導入前後の比較に使う数字を自分で定めたい。
