ソフトウェア/Ollama の履歴(No.2)

Ollama サービスを LAN 内に公開する†

グラフィックカードを利用したかったので Windows マシンにインストールした。

set OLLAMA_HOST=192.168.0.xxx:11434
set OLLAMA_ORIGINS=localhost,192.168.0.*
set OLLAMA_FLASH_ATTENTION=1
set OLLAMA_KEEP_ALIVE=10m
C:\Users\(ユーザー名)\AppData\Local\Programs\Ollama\ollama app.exe

apache2 の proxy 設定†

LAN 外から apache2 へのアクセスを、
LAN 内の Ollama サービスへ繋ぐための proxy を設定する。

前提として、apache2 はすでに https でサービスを提供可能なよう設定されているものとする。

/etc/apache2/sites-enabled/default-ssl.conf に以下を追加する

<IfModule mod_ssl.c>
NameVirtualHost *:443
<VirtualHost _default_:443>
     <IfModule mod_proxy.c>
        ProxyRequests Off
    
        <Proxy *>
            Require all granted
        </Proxy>
        
        AllowEncodedSlashes NoDecode
        RequestHeader set X_FORWARDED_PROTO 'https'
        ProxyPass        /ollama/(秘密の文字列)/ http://192.168.0.xxx:11434/ nocanon
        ProxyPassReverse /ollama/(秘密の文字列)/ http://192.168.0.xxx:11434/
    </IfModule>
</VirtualHost>
</IfModule>

参考：

• https://yomon.hatenablog.com/entry/2017/10/20/222331 (AllowEncodedSlashes, nocanon)
• https://e-words.jp/w/X-Forwarded-Proto.html (X_FORWARDED_PROTO)

これで、

https://(サーバーFQDN)/ollama/(秘密の文字列)/

において Ollama サービスを公開可能となる。

ProxyPass や ProxyPassReverse のパス名の最後に '/' がついていないとうまく行かないので注意。

パスワードなどは設定されていないため "(秘密の文字列)" がばれると誰からでもつなぎ放題になってしまうのだけれど、ここに十分長いランダム文字列を持って来ることでそれが実質的なパスワードとして働くことになる。