個人開発者が挑む、プライバシー重視の「オンデバイスAI資料検索アプリ」開発記録

本記事は、個人開発者が「オンデバイスAI資料検索アプリ」を開発する過程で直面した技術的な課題と、その解決策を記した開発日誌である。開発の動機は、マニュアルや領収書といった個人の機密性の高い資料を、外部のクラウドAIサービスに全て預けることへの抵抗感から、プライバシー保護を最優先とした「オンデバイス」での処理を実現することにある。技術スタックには、Flutter、ObjectBox（Vector DB）、MiniLM（Embedding）、そしてローカルLLMとしてGemmaやGeminiが採用されている。

開発過程では、まず巨大なPDFファイルを解析する際にスマートフォンがフリーズするという問題に直面。これを解決するため、解析処理をIsolateへ隔離し、さらにネイティブ通信用のRootIsolateTokenを渡すことで、発生しがちなBad stateエラーを回避した。現在、Standard版のクローズドテストが開始されたほか、Pro版ではローカルLLM（Gemma 4）を自律エージェントとして動かす高度な実装に取り組んでいる。

特にローカルLLMエンジンの実装においては、複数の技術的障壁を乗り越えている。当初使用したGoogle公式のmediapipe_genaiはネイティブリンクエラーで断念し、flutter_gemmaへ移行した。さらに、ドキュメントが未整備なAPI（例：ensureModelReady）の仕様変更や、推論結果がModelResponseオブジェクトとして返り、内部のテキスト取得にawaitが必要な構造など、IDEの補完機能に頼りながらパズルを解くような作業が必要だった。また、デバッグ環境では問題なく動作するにもかかわらず、リリースビルドでAIが沈黙するという問題が発生。これはAndroidのコード圧縮機能（R8）が、リフレクション等で使われるMediaPipeの内部部品を「未使用」と誤判断して削除していたためであり、最終的にproguard-rules.proに保護ルールを明記することで解決に至った。

---

背景

近年、AI技術の進化に伴い、データ処理の場所がクラウドからデバイス（エッジ）へと移行する動きが加速しています。この背景には、データプライバシーの懸念や、通信速度・コストの問題があります。本記事の取り組みは、まさにこの「プライバシー重視の分散型AI」という、現在の技術トレンドの最前線に位置しています。

重要用語解説

• オンデバイスAI: デバイス（スマートフォンなど）のローカル環境内でAI処理を行う技術。クラウドを経由しないため、データが外部に漏れるリスクを最小限に抑えられます。
• Isolate: Flutter/Dartにおける並行処理の仕組み。メインスレッドとは独立した環境で重い処理（例：PDF解析）を行うことで、アプリ全体のフリーズを防ぎます。
• R8/proguard-rules.pro: Androidのコード圧縮・最適化機能。コードを効率化する反面、内部で使われるライブラリの部品を「未使用」と誤認し削除することがあり、保護ルールで対処が必要です。

今後の影響

本開発は、個人が抱える機密性の高いデータを安全に扱うための具体的なモデルケースを示しています。今後、このようなオンデバイスAIの普及が進むことで、医療、金融、個人情報管理など、高いプライバシー保護が求められる分野でのAI利用が加速すると予想されます。技術的な難易度が高い反面、市場ニーズが非常に高い分野です。