mirror of
https://github.com/yhirose/cpp-httplib.git
synced 2026-04-11 19:28:30 +00:00
1.8 KiB
1.8 KiB
title, order, status
| title | order | status |
|---|---|---|
| Building a Desktop LLM App with cpp-httplib | 0 | draft |
llama.cpp を組み込んだ LLM 翻訳デスクトップアプリを段階的に構築しながら、cpp-httplib のサーバー・クライアント両面の使い方を実践的に学びます。翻訳は一例であり、この部分を差し替えることで要約・コード生成・チャットボットなど自分のアプリに応用できます。
依存ライブラリ
- llama.cpp — LLM 推論エンジン
- nlohmann/json — JSON パーサー(ヘッダーオンリー)
- webview/webview — WebView ラッパー(ヘッダーオンリー)
- cpp-httplib — HTTP サーバー/クライアント(ヘッダーオンリー)
章立て
- llama.cpp を組み込んで REST API を作る — テキストを POST すると翻訳結果を JSON で返すシンプルな API から始める
- SSE でトークンストリーミングを追加する — 翻訳結果をトークン単位で逐次返す LLM API 標準の方式を実装する
- モデルの取得・管理機能を追加する — Hugging Face から GGUF モデルを検索・ダウンロードするクライアント機能を実装する
- Web UI を追加する — 静的ファイル配信で翻訳 UI をホストし、ブラウザから操作できるようにする
- WebView でデスクトップアプリ化する — webview/webview で包み、Electron 的なデスクトップアプリとして動作させる
- llama.cpp 本家のサーバー実装をコードリーディング — 自分で作ったものとプロダクション品質のコードを比較して学ぶ