新着記事

OpenWebUIとLiteLLMの組み合わせで自分専用LLMコンソールを構築する

OpenWebUIとLiteLLMの組み合わせで自分専用LLMコンソールを構築する

 LLM
 2025-03-01
毎月のように最強のLLMが登場する昨今、登場するたびに提供会社のWebUIに慣れるのは大変です。 そこで過去に紹介したLiteLLMとOpenWebUIを組み合わせて様々なLLMサービスを統一したWebコンソール上で利用できるようなサービスを自分用にデプロイしたいと思います。 Open WebUIについて GitHub - open-webui/open-webui: User-friendly AI Interface (Supports Ollama, OpenAI API, ...) User-friendly AI Interface (Supports Ollama, OpenAI API, ...) - open-webui/open-webui ChatGPTやGeminiなど一般的なLLMのWebサービスUI的な物のオープンソース版です。一般的なチャット、画像等のファイルアップローダー、Web検索(スクレイピングツールの繋ぎ込みが必要)など欲しい機能がひととおり揃っています。(昔はOllma WebUIという名前でした)
Cloudflare Tunnelを使って自宅サーバーをポート開放せずに公開する

Cloudflare Tunnelを使って自宅サーバーをポート開放せずに公開する

自宅サーバーを立てていると、外部からアクセスしたい時にポート開放が必要になります。しかし、ポート開放はセキュリティ上のリスクがあるため、できるだけ避けたいものです。そこで、Cloudflare Tunnelを使って自宅サーバーをポート開放せずに公開する方法を紹介します。 今回公開するもの 今回はMinecraftサーバーのDynmapを公開します。 DynmapとはMinecraftサーバーのプラグインでゲームのワールドデータをWebブラウザで閲覧できるようにするものです。ワールドデータを手軽に俯瞰してみることができますのでMinecraftサーバーを運用する方はまず入れることが多いプラグインです。
Starlink miniを購入したので携帯電波が無い場所でレビュー

Starlink miniを購入したので携帯電波が無い場所でレビュー

Starlink miniが遂に日本で販売開始になりました。米国での販売価格は599ドルなので日本では98,000円くらいになるだろうと思っていたら日本価格は34,800円!ありがとうイーロンマスク。イーロンマスク効果(1ドル60円)のインパクトは非常に大きく衝動買いできる価格になりました。 そして販売直後に販売各社からポイント還元セールが行われるようになりました。 このような経緯で私は楽天市場のヤマダデンキから4427ポイント還元で購入しました。これに追加でJALのマイル等が付きますので実質2万円台での購入になります。
Ryzenを搭載したThink CenterでProxmoxが動作しない問題への対応策

Ryzenを搭載したThink CenterでProxmoxが動作しない問題への対応策

 仮想化基盤
 2025-02-01
自宅にはAMD Ryzen 5 PRO 2400GEを搭載したThink Center M715qがあります。導入当初はProxmox7系でクラスターに組み込んでいたのですが、組み込んで暫くするとクラスター間通信ができなくなりました。 クラスターを離脱させ個別運用をしていてもある程度時間が立つとWebコンソールに入れない状態になりました。今回はこれを解決する方法を知ったのでメモ書きしたいと思います。 原因 Ryzenに搭載されてるCore Performance Boostが悪さをするようです。CPBは発熱などに余裕があれば定格周波数を超えて動作をさせシングルスレッドの性能を向上させる機能です。
UniFi Express レビュー

UniFi Express レビュー

UniFi Expressとの出会い ドデカい誤家庭用機器が多数展示されているInterop Tokyo 2024にて一般家庭でも置けそうな小さなルーターが展示されていました。 それがUniFi Expressです。(写真一番左の機器) この小ささでDream Machine Proと同じUniFi OSが動作し、WiFi6対応のAPが内蔵されているという夢のある製品です。というわけで実家のルーターを(不必要に)UniFi Expressに買い替えました。
2024年の良かった物、好きな物

2024年の良かった物、好きな物

 雑記
 2024-12-31
2024年もあと少しで終わりです。今年の目標は放置していたこのブログを毎月1記事以上書くことでしたが、無事達成できて良かったです。 今年最後の記事は雑に2024年の好きな物を振り返ってみたいと思います。 ちなみに2024年に私が触れた好きな物の話なので販売、放送等が2024年以前の物も含まれます。 アプリ Obsidian Obsidian - Sharpen your thinking The free and flexible app for your private thoughts. 今年はメモアプリにObsidianを使い始めました。OneNoteからの乗り換えです。
LiteLLMを使ってBedrockのClaudeをOpenAIのAPIと同じように使う

LiteLLMを使ってBedrockのClaudeをOpenAIのAPIと同じように使う

 LLM
 2024-12-09
LLMを利用したアプリやOSSなどがたくさん公開されています。またLLMをサービス提供する業者も大量に増えました。 そのためアプリなどによっては、利用したいLLMサービスが選択肢にないことが多くあります。大抵の場合、利用可能なものはOpenAIのAPIのみ、せいぜいAzure APIやGemini API程度の対応が多いです。しかし幸いな事にOpenAIの設定はHost名を変更できるようになっている事が多いので互換インターフェイスであれば利用できるようになっています。
20000mAh 67W入出力対応で超小型のCIO SMARTCOBY TRIO 67Wレビュー

20000mAh 67W入出力対応で超小型のCIO SMARTCOBY TRIO 67Wレビュー

 ガジェット
 2024-11-21
世界最小最軽量をいつも狙うCIOさんが新型20000mAhのモバイルバッテリーを出してきたので購入しました。(と言っても購入したのは3月ですが) CIO SMARTCOBY TRIO 20000mAh 65W モバイルバッテリー 大容量 小型 急速充電 PD 3ポート iPhone/Android/Macbook M3 / iPad Type-C USB-C USB-A パススルー PSE認証品 (ブラック) Amazon 嬉しいところ この製品の嬉しいところは20000mAhで67W出力が可能でなおかつ超小型であることです。
受信したADS-BのデータをFlightradar24に共有する

受信したADS-BのデータをFlightradar24に共有する

 無線通信
 2024-11-12
前回、ProxmoxのVM上でADS-Bのデータを受信することができました。 今回は、そのデータをFlightradar24に共有する方法を紹介します。 Flightradar24にデータを共有する目的 Flightradar24は、全世界の航空機の位置情報を提供するサービスです。 基本的には無料で利用できますが長時間の確認、過去のデータ、細かい機体情報などは有料プランが必要です。 そして有料プランが最上位Businessプランで年額499ドルします…… その499ドルがADS-Bのデータと共有することで無料!!!!受信機の代金なんて1ヶ月で元が取れます!!
自宅周辺を飛んでいる飛行機の情報をADS-Bで受信する

自宅周辺を飛んでいる飛行機の情報をADS-Bで受信する

 無線通信
 2024-10-29
世界の飛んでいる航空機情報を見るサービス、Flightradar24が人気です。 最近では岸田元首相がウクライナに電撃訪問した際に、そのチャーター機の情報がFlightradar24で見られると話題になりました。 このFlightradar24の情報は、ADS-Bという通信を受信し構築されています。ADS-Bは、航空機からの位置情報などを地上局に送信するための通信方式です。従来飛行機の位置情報は空港などにある地上のレーダー設備から位置特定していましたが、必ずしも地上から飛行機の位置を取得できるものではありません。そこで飛行機側からも位置情報を出すことでより完璧な位置情報を取得できるようにしたのがADS-Bです。