2024年5月29日、IdeinはエッジAIプラットフォーム「Actcast」とマルチモーダルLLM（大規模言語モデル）を連携した画像解析ソリューション「LLM App on Actcast」の提供を開始しました。この新しいソリューションは、クラウド上のLLMを活用し、エッジデバイス上で利用できるアプリケーションを提供します。これにより、非エンジニアでも自然言語でプロンプトを入力するだけで、簡単にアプリケーションの検証が可能となります。

提供開始時点では、OpenAIの「ChatGPT」などのクラウドLLMのAPIを利用して、AIカメラなどエッジデバイスで撮影した画像に対する推論が可能です。企業がビジネスへのAI導入を検討する際、従来はML（機械学習）モデルの精度向上に重きを置きすぎて、運用を踏まえた検証に進めないままPoC（実証実験）が終了することが多々ありました。しかし、「LLM App on Actcast」は、PoC用ソフトウェアをプロンプトエンジニアリングで代替することで、最低限の手間とコストでビジネス価値の検証に注力できるように設計されています。

例えば、小売業界での利用イメージとして、店舗の状況を遠隔で確認したい場合が挙げられます。店舗責任者が店内の状況説明を求めるプロンプトを入力すると、店内のAIカメラが撮影した画像をもとに、商品の陳列に問題がないか、商品の補充が必要かどうかを「LLM App on Actcast」が判別し、荷出しなど必要な作業についてのコメントが得られます。

今後、Ideinはパートナー企業との協業を拡大し、さまざまな分野に向けてエッジAIの実装を進める予定です。この新しいソリューションは、エッジAIとLLMの融合により、ビジネスの効率化と価値向上を目指しています。