Open WebUI

2025年8月10日

はじめに

Open WebUI は大規模言語モデルを利用するための WebUI である。

セットアップ

Ollama を別途セットアップしておく。

ここ に従う。Linux を想定する。ここでは uv を使う。

$ uv venv open-webui --python 3.11 
$ open-webui/bin/activate
(open-webui) $ uv pip install open-webui

そこそこ時間がかかる。

アップデート

アンインストールして再度インストールすればよい。

uv pip uninstall open-webui
uv pip install open-webui

使い方

実行

Ollama サーバーを起動済みとする。

(open-webui) $ open-webui serve

少し時間がかかる。http://localhost:8080 にアクセスする。最初に名前とメールアドレス、パスワードの入力を求められるので、適当に入れる。

Web 検索

左下のユーザー名をクリックして、[管理者パネル]-[設定]-[ウェブ検索] で有効化できる。チャット入力欄の下に [ウェブ検索] が出てくればOK。

検索エンジンとしては DuckDuckGo を使えばよい。たまにうまくいかなくなることがあるが、そのときはパッケージをアップデートするとうまくいくかもしれない。

$ uv pip install -U duckduckgo-search

MCP サーバーを使う

MCP は直接扱えないが、OpenAPI 経由で扱える。mcpo を用いる。mcp-server-fetch を使う場合は、以下のようにする。

(open-webui) $ uvx mcpo --port 8000 -- uvx mcp-server-fetch --ignore-robots-txt

左下のユーザー名をクリックして、[設定]-[ツール] で追加。アドレスは http://0.0.0.0:8000 を設定する。チャット入力欄の下にスパナマークが出てくれば認識されている。

config.json を使う場合

{                                                                                
  "mcpServers": {                                                                 
    "fetch": {                                                                  
      "command": "uvx",                                                    
        "args": [                                                            
          "mcp-server-fetch",                                              
          "--ignore-robots-txt"                                            
        ]                                                                    
    }                                                                        
  }                                                                            
} 

(open-webui) $ uvx mcpo --port 8000 --config config.json

この場合、設定は http://0.0.0.0:8000/fetch などとする。WebUI 側で使いたいツールを 1 つずつ設定する。

RAG

RAG を使う時は、Ollama のほうでコンテキスト長さを 8192 以上にしたほうがよいらしい。

#<URL>の形でURLの内容を問い合わせできる。

#https://zatsugaku-circle.com/bosatsu/
要約して

回答

仏教における菩薩は、如来（最高位の仏）に次ぐ階級の仏で、完全な悟りには至っていない修行者を指します。菩薩は52種類の階級に分かれ、多神教である仏教において主要ではない神のような存在として信仰されています。また、密教には如来の化身である明王が存在し、これらは他宗教の神を倒すなどの攻撃的な性格を持つことで人気を集めました。菩薩や如来の違いは悟りのレベルにあり、如来は52の悟りを極めた最高位の仏です

[+] ボタンでドキュメントを参照した質問ができる。

(https://www8.cao.go.jp/cstp/aigensoku.pdf のファイルを添付)
要約して

回答

提供された文書の内容を要約すると、以下のようなポイントが含まれています：

1. **AIの準備と社会への影響**：
   - 文書では、AIの準備とその社会への影響について言及されています。具体的には、Society 5.0の実現に向けたAIの役割や、AIが社会に与える影響について議論されています [1]。

2. **AIの活用と課題**：
   - AIの活用に関する課題や、AIがもたらす変化についても触れられています。特に、AIの準備が社会の変革にどのように寄与するかが焦点となっています [1]。

3. **技術的な詳細**：
   - 技術的な詳細として、AIの準備に関する具体的な方法や、AIが社会に与える影響についての分析が行われています。これは、AIの活用を通じて社会の変革を促進するための取り組みと関連しています [1]。

要約すると、この文書はAIの準備とその社会への影響について、技術的な観点から詳細に分析しています。特に、Society 5.0の実現に向けたAIの役割や、AIが社会に与える影響についての議論が中心となっています。

ナレッジベース

[ワークスペース] の [ナレッジベース] タグでナレッジベースを作ってドキュメントを追加する。[モデル] タグでモデルを作って、作成したナレッジベースを参照するように設定する。このモデルを使って質問すると、ナレッジベースを参照してくれる。

ナレッジベースのデータは、多くすればよいというものではなく、必要最低限のものを入れる。データが多いとデータをうまく見つけられない。[管理パネル]-[設定]-[ドキュメント] の [Full Context Mode] を有効にすると、全データを見てくれるようだが、これはこれで回答がとっ散らかることがある (回答に時間もかかる)。

Apache Tika

Apache Tika を併用すると精度が上がるという話がある。これはドキュメント分析・メタデータ抽出ツールらしい。パッケージをダウンロードして、下記のように起動する。

java -jar tika-server-standard-3.2.0.jar

[管理者パネル]-[設定]-[ドキュメント] の [Content Extraction Engine] で "Tika" を選び、http://localhost:9998 を設定する。

ノート機能

右下の Enhance ボタンを押すと、文章を自動で編集してくれる。