AIは通常クラウド上で処理を行うものですが、セキュリティの問題や通信の遅延、従量課金によるコストの負担などが問題になっていました。そこで、クラウドを用いないエッジAI、オンデバイスAI、ローカルLLMなどが注目されています。それぞれの特徴やメリットを確認し、使い分けていきましょう。

エッジAI

利用者のコンピューターやセンサー、工場の機械などと物理的に近い場所に、処理基盤（サーバーなど）を置いてデータを処理する技術を「エッジコンピューティング」といいます。エッジAIとは、エッジコンピューティングにAIを備えたもの。具体的には、カメラやIoTデバイスの内部でAI処理を行うものなどです。クラウドでの処理と比較して通信にかかる時間が短く、通信の遅延や情報漏えいのリスクを抑制できます。

エッジAIは、製造業での予知保全や小売業での棚卸しや製品の不正検知、防犯対策など、あらゆる分野で活用されています。工場では、機器の状態を常時監視して、設備の劣化を予知して部品の交換や修理を行います。AIを用いた予知保全では、音や温度、電流などの状態をセンサーで計測し、データをサーバーなどに送ります。正常時と異なる状態が生じたときにはAIが分析し、アラートを出すというしくみです。

AIの分析を行う場所をクラウドで行うと、通信の遅延が生じることがありますし、遠いサーバーに送るとその間に情報が漏えいしないとも限りません。また、クラウドは従量課金のことも多いので、データ量が多くなればそれだけコストがかさみます。エッジAIであれば、センサーから近い場所で分析を行うため、こういった問題を軽減することができます。機械の異常は迅速に解決する必要があるため、タイムラグを減らすことは大きなメリットがあるのです。

オンデバイスAI

PCやスマートフォン上で処理するAIを「オンデバイスAI」と言います。AI PCやCopilot＋ PC、スマートフォンの上位機種などがそれに当たります。オンデバイスAIは、主に音声認識や画像処理、文書作成サポート、翻訳などを行います。デバイス上で計算を行うため、インターネット接続がない環境でも使用可能で、また、即座に処理できます。

オンデバイスAIは、Apple MシリーズやGoogleのTensor、QualcommのSnapdragonなどの高性能チップで動きます。クラウドで処理を行う生成AIはLLM（大規模言語モデル）の技術が使われていますが、オンデバイスAIにはパラメータ数の少ないSLM（小規模言語モデル）が導入されているものもあります。SLMは、LLMと比べて知識も限られてきますが、普段の生活やデスクワークで使うレベルのことであれば十分にデバイス上で完結できます。ネットワークにつなぐ必要がないため、プライバシー保護、情報漏えいリスクの低減の面でも安心です。

ローカルLLM

LLMを、クラウドを介さず組織内サーバーなどで使うものを「ローカルLLM」と言います。ローカル環境で学習、推論を行うため、データや情報が組織外に持ち出されることがなく、また、カスタマイズしやすいのも特徴でクラウドAIよりも、遅延が生じにくいという特長があります。開発中のプログラムを生成AIに載せてしまい、情報が漏えいする事故なども起きていますが、ローカルLLMはこういったことを防げることで期待されています。

特に、個人情報をはじめとした機密情報を扱う部署や組織では、クラウドAIよりもローカルLLMが向いているといえるでしょう。生成AIは契約しているコースによって、使用できるトークン数が異なります。小規模の組織であればミニマムな契約で済みますが、人数が多く、生成AIをよく使う企業だとトークン数が多いコースを利用せざるを得なくなり、コストが増大します。

その点、ローカルLLMはトークン数によって支払額が変わらないため、ランニングコストはハードウェアの購入費と電気代が主になり、予算が立てやすくなります。ローカルLLMでは、OSS（オープンソースソフトウェア）のLLMツールが活用されます。代表的なOSS LLMとして、LocalAI、Ollama、Gemma 3 27Bなどが知られています。これらの3つは、LLMではなくローカルでLLMを動かすためのツールです。

2025年8月にはOpenAIがgpt-ossをリリースしました。今後ますますローカルLLMを採用する組織が広がると見られています。ローカルLLMは、FAQやチャットボットの運用や、製造現場の意思決定の自動化などにも用いられています。

導入時はコストがかかる

エッジAI、オンデバイスAI、ローカルLLMはいずれも通信やトークンにかかるコストを削減できるメリットがありますが、その反面、導入時にはハードウェア購入やシステム構築などに費用がかかります。

費用対効果とともに、自組織の情報の機密保持をどこまで必要とするのかも考慮したうえで、導入に進めるといいでしょう。

全社AI化が月4万円〜！ナレフルチャット

詳細はこちら：ナレフルチャット - HYPER inc

なお、ナレフルチャットの基本情報や生成AIの使い分けについては以下の記事で詳しく解説しています。こちらも参考にしてください。

関連記事：安全に使える生成AI「ナレフルチャット」

まとめ

エッジAIは、センサーの近くで処理するAI
オンデバイスAIは、PC、スマートフォンなどのデバイス上で処理するAI
ローカルLLMは、組織内サーバーなどで処理を行うAI