こんにちは！半田貞治郎です。
NECは、自社開発の生成AI「cotomi」のサービスラインナップを拡充し、専用アプライアンスサーバー「cotomi Appliance Server」を6月から販売すると発表した。 この専用アプライアンスサーバーには、世界トップクラスの日本語能力を持つ軽量高性能な「cotomi Light」を搭載している。
cotomi Lightは、パラメーター数をコンパクトに抑えることで、モデルの省電力化・軽量化・高速化を実現し、運用コストを抑制できる。 今回開発した専用アプライアンスサーバーはNVIDIA GPUを搭載し、「推論モデル」と「推論+ファインチューニングモデル」の2モデルを展開する。 ユーザーの拠点に設置することで、レスポンス時間が短く、セキュアな生成AI利用環境が可能になる。
オンプレミス環境での利用は秘匿性の高い業務に適しており、金融業とコンタクトセンターでの活用が期待できる。 また推論+ファインチューニングモデルを活用することで、ユーザーの業務に特化させた生成AIモデルを短期間で構築できる。
さらに同サーバーを利用するユーザーには、用途に合わせたプロンプトテンプレートの設定など、cotomiの利用に必要な機能をソフトウェアにした「NEC Generative AI Framework」を合わせて提供する。 これによりプロンプトエンジニアリングなどの専門知識が不要で、ウェブ画面での簡単な操作により「cotomi」を活用できる。
NECは2025年度末までに約500億円の売り上げを目指すという。
NEC、「cotomi Light」を搭載した専用アプライアンスサーバーを提供（ZDNET Japan） - Yahoo!ニュース https://news.yahoo.co.jp/articles/86e4e75878c1272677dc3a0cc2954a5640655888
