脊髄反射型 — CPUだけで即答
質問 → 脊髄 → 反応。熱い物に触れた瞬間に手を引っ込めるのと同じで、脳を経由せず、運賃計算や運行状況照会などの定型的な質問を構造化データだけで即座に処理します。
Renewable-Powered Inquiry Agent
限られた再生可能エネルギーの発電量だけでAIエージェントを持続稼働させるには、消費電力を抑える技術が欠かせません。EntreprenAIsエージェントは、定型的な問い合わせをCPUだけで即答し、未知の質問のときだけローカルLLMを呼び起こす「CPUファースト・ハイブリッドアーキテクチャ」により、省電力と応答品質を両立させた問い合わせAIエージェントです。ホームページ埋め込みとLINE公式アカウントの2つの形でご利用いただけます。
01 / Concept
熱いものに触れて思わず手を引っ込めるとき、私たちはいちいち「脳」で考えていません。「脊髄」だけで反射的に処理しているからこそ、一瞬で反応できます。一方、初めて見るものについて考えたり判断したりするときは、「脳」をフルに使ってじっくり処理します。EntreprenAIsエージェントも同じ発想で設計されています。
質問 → 脊髄 → 反応。熱い物に触れた瞬間に手を引っ込めるのと同じで、脳を経由せず、運賃計算や運行状況照会などの定型的な質問を構造化データだけで即座に処理します。
質問 → 脳 → 判断・応答。初めて見る物事をじっくり考えて判断するのと同じで、未知の質問のときだけローカルLLMという「脳」をオンデマンドで起動し、考えて応答します。
チャット内の各応答の下には、実際に計測した処理経路(脊髄反射=CPU/大脳思考=ローカルLLM)と応答時間が都度表示されます。実際の数値は下記のデモでご確認いただけます。
02 / Renewable Energy
このAIエージェントは、太陽光による自家発電と、水力由来の実質再生可能エネルギー電力プランを組み合わせた、実質再生可能エネルギー100%の施設で稼働するよう設計しています。そのため、インターネットの先にある大きなAI(クラウドLLM)に問い合わせるのではなく、この施設の中だけで答えを考える「ローカルLLM」を使っています。クラウドの先のAIがどんな電気で動いているかは分かりませんが、ローカルLLMなら、この施設の再生可能エネルギーだけで処理を完結できるからです。
ただし、ローカルLLMで考えるときは、たくさんの電気を使います。AIをずっと起動したままだと、この再生可能エネルギーだけでは電気が足りなくなってしまいます。そこで、この電気の問題を解決するために「CPUファースト・ハイブリッド・アーキテクチャ」という仕組みを開発しました。定型的な質問はCPU側の構造化データのみで低消費電力に即答し、消費電力の大きいローカルLLMは未知の質問のときだけオンデマンドで起動します。こうして処理の大半をCPUだけで完結させることで、エージェント全体の消費電力を抑え、再生可能エネルギーによる持続稼働を実現しています。
03 / Delivery
問い合わせAIエージェントは、既存のホームページへの埋め込みと、LINE公式アカウントとの連携、ふたつの形でご利用いただけます。
<!-- EntreprenAIs 問い合わせAIエージェント 埋め込み --> <script src="(お客様専用の埋め込みURL)/widget.js"></script>
Website Widget
既存のホームページに、1行のスクリプトタグを追加するだけで導入できます。サイトを作り直す必要はありません。右下に表示される「AIに聞く」ボタンから、訪問者はいつでも質問できます。実際に、既存の企業サイトをそのまま活かし、この1行だけを追加して稼働させる実証実験を重ねています。
LINE Official Account
同じAIエージェントを、LINE公式アカウントを通じても提供できます。ユーザーは使い慣れたLINEアプリから、運賃や運行状況などをそのまま質問できます。
04 / Try It
ここまでご紹介した技術は、概念だけでなく実際に稼働する実証実験(PoC)として検証を重ねています。デモ環境は個別にご案内していますので、まずはお問い合わせください。
再生可能エネルギー100%の拠点を持たない事業者様でも、この省電力アーキテクチャ自体はご導入いただけます。AI運用コストの削減や、省電力なエッジ・オンプレミスAIをお探しの事業者様もお気軽にご相談ください。