検索結果
-
― では、エッジAI技術「CE-LLM」とは? 簡単に言えば、ユーザーの質問内容が簡単か否かをAI判定し、簡単な内容に対しては、エッジデバイス内のローカルLLMで迅速に回答。難しい場合は、ChatGPTなどのクラウドAIに複雑な回答を任せる、ということを行っています。 このように、エッジAI技術「CE-LLM」とは、ユーザーからの問いかけに対し、ChatGPTなどのクラウドAIか、ローカルLLMのエッジAIいずれで処理するかを即時に判断、切り替えることで、最適かつスムーズで自然な会話のやりとりを提供する独自技術です。 クラウドAIはデータの量が多く精度が高い一方、先ほど話しましたように、応答速度とセキュリティの問題があります。対して、エッジAIは簡単な会話レベルなら即時応答が可能です。いまは、エッジAIだと1秒足らずで返事がくるのに対し、クラウド経由だと5~6秒かかる場合もあります。これではスムーズな会話ができないですよね。質問内容に応じ、クラウドかローカルのどちらかを使い分けて良いとこ取りしようというのがコンセプトで、それを瞬時に判断する技術がCE-LLMの中核です。 ― エッジとクラウドを切り替えるというのは面白いですね。発想はどこから出てきたのですか? 実は、生物の脳の仕組みを参考にしています。脳には、大脳と大脳辺縁系の2つ部位があります。大脳は理性をつかさどる社会脳。大脳辺縁系は、情動や反射をつかさどる、生存に関係する本能の部分(=生存脳)です。人間はこれにより理性と本能を使い分けることで、命の危険のある時にはすばやく反射(行動)できますし、じっくり思考することもできます。大脳をクラウドAI、大脳辺縁系をエッジAIに置き換え、質問によって使い分ければ、高速かつスマートに対応できるのではと思ったんです。 ― なぜ、「CE-LLM」の開発を進めようと思ったのですか? AIを使ったサービスは色々と展開されていましたが、基本的にはクラウドAIの使用を前提としたものだったことに加え、エッジAIなら、シャープが得意とする家電製品を通じて、これまで世の中にない製品やサービスを提供できると考え、「CE-LLM」の開発を始めました。 このシャープ独自の「CE-LLM」をコアに、家電を含む家庭の様々な機器、様々なネットサービスを高度に組み合わせることで、「より使い勝手のよい、人に寄り添うAI」を実現したいと思っています。現在は、実用化に向けて開発を進めているところで、将来はPCやスマホのみならず、家電製品本体にも「CE-LLM」を搭載したいと考えています。 ― 「SHARP Tech-Day」では、多くのメディアに紹介されるなど注目されましたが、イベントから得た気づきなどについて教えてください。 AIアバターは、展示内容に関する質問をされることを想定してセッティングしたのですが、「今日の天気は?」「今、何時ですか?」「ここはどこ?」など、想定していなかった質問をする方がおられ、上手く答えられなかったケースもありました。 LLMを使った会話は、ユーザーの質問をLLMに投げ、そこからフィードバックされた情報をユーザーに返答するものです。つまり、質問に対して確度が高そうな文言を選んでいるだけで、意味を詳細に解釈しているわけではありません。お客様がどんな立ち位置で質問しているのか、どういう形式の答えを求めているのかなど、お客様の持っている情報や知識などを踏まえ最適化していく必要があり、前提となる条件やキャラ付け、さらに人間らしい対応といった部分をさらに磨いていかねばなりません。「CES 2024」では、テレビAQUOSの知識に長けた説明員というキャラ付けをして臨んだのですが、ディナーの誘いをする方が多く、それも想定外でした(笑)。 ― 今後の展開や個人的な想いなどあれば教えてください。 キャラ付けも課題ですが、何より展示した開発品はまだまだ大きな端末が必要で、実用化のためにはさらなる小型化が不可欠です。ソフト・ハード両面からコンパクトになるよう、チーム全体で開発を進め、 いち早く、本格的なサービスが展開できるように取り組んでいきます。 また、個人的には、将来、「CE-LLM」でリモコンをなくせるのでは、と思っています。「CE-LLM」を搭載したエアコンに「今日は暑いな」と話しかけると、エアコンを最適な温度で運転してくれる世界感です。家電製品のリモコンが不要になれば、見つからなくて探す手間も無くなりますし、リモコンがない分、使用部材も減り、資源の節約にもなるので、いいこと尽くめじゃないでしょうか。実現できるよう頑張りたいと思います。(SHARP Blog記事)
車、テレビ、IoTデバイスなど…
2024/05/10 15:52
車、テレビ、IoTデバイスなどの製品に電力を供給する柱1に移ります。このカテゴリでは、お客様が私たちを選ぶのは、当社の技術が最高であると信じており、ブランドユーザーのデータを保護し、差別化と革新のために提携しているからです。私たちは何十もの言語で何百万ものデバイスに電力を供給しています。そして、今四半期は40億件以上のクエリの年間実行率に達し、第1四半期には前年比で60%以上の成長を遂げました。 昨年、大規模な言語モデルのパワーとAIアシスタントを組み合わせたSoundHound Chat AIを発表し、より有能でパワフルになりました。これは、既存の顧客からのロイヤリティを増加させるアップセル機能であり、その比類のない品質は、新規顧客を獲得するのに役立ちます。 前四半期、DS Automobilesが自動車メーカーにとって前例のないライブ生産への試運転を迅速に実行した最初の企業であることについて話しました。発売の成功により、オペル、プジョー、ボクスホールを含むSoundHound Chat AIの新しいブランドにサインアップしました。そして今、今四半期、私たちはアルファロメオとランチアを追加することを嬉しく思います。 また、日本でステランティスの車両で生産に参入しました。お客様であるステランティスとともに、私たちはChatGPTと統合された音声アシスタントを車両に投入した世界初の企業です。また、ステランティスでラテンアメリカで最初の自動車顧客にデザイン賞を授与されたことを嬉しく思います。これは真新しい競争の勝利です。 私たちはまた、EVメーカーとの関心と進歩を続けています。たとえば、前四半期に米国に拠点を置く著名なEVメーカーとの取引では、今年の夏後半に市場をリードする車両のフルフリートを音声で可能にします。これは、SoundHoundの業界をリードする機能と市場対応製品のおかげで、数ヶ月で契約から生産になったことを意味します。 さらに、アジアの大手電気自動車メーカーと契約を結び、強力なエンジンを搭載した手頃な価格で高級電気自動車を提供することを目的としたソフトウェアを組み込みました。これは私たちが以前に発表したことのない真新しい自動車メーカーです。 今四半期は、GTCカンファレンスでNVIDIAとのコラボレーションを発表しました。私たちが提携しているソリューションは、SoundHound Chat AIとNVIDIA DRIVEの車両で実行されている大型言語モデルを組み合わせて、シームレスな音声インタラクションを実現します。NVIDIAと一緒に、接続を必要とせずに車載生成AI応答を提供できるようになりました。 また、現在Armと提携しており、パートナープログラムに正式に追加されました。今年後半にもっと来る予定です。