オムニリコール ベータ:クラウドLLMチャット向けFAISS駆動メモリインジェクション

OmniRecallの機能
OmniRecallは、クラウドチャットインターフェース(DeepSeekでテスト済み)へのトラフィックを傍受するローカルのmitmproxyバイパスです。独自のSSEフラグメントストリームにハックし、ステートレスとして設計されたシステムに長期記憶層を強制的に追加します。
技術的仕組み
- ディープパケット解析: リアルタイムパッチを追跡してアシスタントの完全な返信を再構築
- コマンド制御: AIの出力から[ADD]、[UPDATE]、[REMOVE]、[CLEAR]を検出
- ローカルブレイン: memory.txt + FAISSインデックス(sentence-transformers MiniLM-L6)を維持
- コンテキスト注入: 上位に想起された事実が[RECALL: ...]として次のメッセージに強制的に挿入される
現在の状況と制限
これはベータ/実験的リリースです。開発者は次のように述べています:「数週間のデバッグ地獄の末、夢に最も近づいたものです。バグがあります。実験的です。[ADD]はほぼ安定していますが、[SEARCH]は気まぐれです。完璧を求めるなら、自分で修正してください。このビルドでの私のエネルギー限界に達しました。」
アップストリームのUI変更は必ずこれを壊します。開発者は次のように述べています:「壊れたら、それはあなたの責任です。」
要件とセットアップ
低スペックPC要件:
- CPUのみ(faiss-cpu + all-MiniLM-L6-v2)
- ローカルLLMは不要 — 既に使用しているクラウドモデルを拡張
- コストゼロ、APIキー不要、100%ローカルデータ分離
デプロイ方法:
pip install mitmproxy faiss-cpu sentence-transformers numpyOS/ブラウザでmitmproxy CA証明書を信頼(一度mitmproxyを実行して生成)。システムプロキシを127.0.0.1:8080に設定。次に実行:
mitmdump -s omnirecall.pychat.deepseek.comにアクセスし、メモリの供給を開始します。
ライセンス条項
このプロジェクトは積極的に制限的なソース利用可能ライセンスを使用しています:
- 商用利用不可
- プライベートフォーク不可
- ロジック変更には必須の公開ALTERATIONS.md
- Claude/GPT-4o/その他に移植する場合、ライセンスに従って公開を維持
開発者は次のように説明しています:「あまりにも多くの個人開発プロジェクトが、作成者が何も得られないまま、切り取られ、私有化され、有料SaaSに変えられるのを見てきました。このライセンスは友好的ではありません。まさにそうした人々から作品を保護するために作られています。条件が怖ければ、それが目的です。」
📖 Read the full source: r/LocalLLaMA
👀 See Also

Files.md: オープンソースのローカルファーストMarkdownノートアプリ、LLMに優しい設計
Files.mdは、メモ、タスク、ジャーナルのためのオープンソースでローカルファーストのMarkdownアプリです。886スター、Goで構築、オフラインで動作し、iCloud/Dropbox/セルフホストサーバーまたはホストされたベータ版app.files.mdを介して同期します。

ComfyUIスキルにより、AIエージェントが自然言語を通じて画像レンダリングをキューイングおよびバッチ処理できるようになります。
新しいオープンソーススキルにより、OpenClawエージェントはComfyUIのワークフローを構築し、ジョブを送信し、「このコンセプトを異なるシードで50種類作成して」や「これらの4つのプロンプトを1024x1024で並べて比較して」などの自然言語コマンドを通じてレンダリングを管理できるようになりました。

Qwen 3.6 27B量子化ベンチマーク:実用的トレードオフでQ4_K_MがQ8_0を凌駕
BF16、Q4_K_M、Q8_0のGGUF量子化バリアントでQwen 3.6 27BをHumanEval、HellaSwag、BFCLで評価。Q4_K_MはBF16とほぼ同等のスコアを達成しつつ、RAM使用量48%削減、1.45倍の速度、68.8%のファイルサイズ削減を実現。

docvault: AIの幻覚を減らすためのローカルAPIドキュメント生成
docvaultは、Claudeや他のLLMが関数シグネチャを誤って生成するのを防ぐために、ソースコードからマークダウン形式のAPIリファレンスを生成するツールです。RustのクレートとPythonパッケージに対応し、2階層のマークダウンファイルを出力します。また、手間をかけずに操作できるClaude Codeプラグインも含まれています。