投稿一覧に戻る
prismhit～～～明日から令和ですね。の掲示板
-
6081
>>6080
コトミライトは詳細なパラメーター数は非開示だが、200億以下に抑えたという。必要とする計算インフラを少なくし、企業のオンプレミスサーバーで運用できるようにした。NECは機密データの社内管理を望む需要を取り込めるとみている。
同時にアルゴリズム（計算手法）やデータ学習の方法を工夫し、文章要約や推論といった性能は高い水準を維持した。たとえば、日本語で1万4000字程度のマニュアルを読み込み、3.9秒で600字程度に要約する。
生成AIサービスはオープンAIやグーグルなど米テック企業が先行している。追いかける日本勢はオンプレミス環境で使える点を強みに訴求する。NTTが3月に提供を始めたパラメーター数70億の独自LLM「tsuzumi（つづみ）」もオンプレミス環境に対応している。
pri*****
NEC、クラウド不要の生成AI提供 機密情報を社内で管理
NECは企業向けに新たな生成AI（人工知能）サービスを6月に始める。NEC製のサーバーとセットで提供することで、機密性の高いデータを社外に出さず、社内で運用を完結できるようにする。個人情報を扱う金融機関やコンタクトセンターなどの需要を見込む。
生成AIの基盤となる新型の大規模言語モデル（LLM）「cotomi Light（コトミライト）」を開発した。これとサーバーをセットで提供する。顧客の要望を踏まえ、文章要約や翻訳などに対応する。料金はサーバー本体と3年間の保守などを含めて約5000万円から。
LLMはパラメーター数という指標で性能を表す。この数値が増えるほど生成物の品質が高まり、大規模な計算インフラが必要になる。パラメーター数が1兆規模とされる米オープンAIの先端モデルなどは企業がオンプレミス（自社所有）のサーバーで使うのは難しく、外部クラウドとデータをやり取りする。