lab_admin

ローカルLLMは、デスクトップPCや小型ワークステーションといった制限的な環境で高い性能を発揮することが焦点となっている。 <Google>が開発した「TurboQuant」は、KVキャッシュを圧縮することでメモリ消費を抑える技術。 推論速度を向上させる技術として投機的デコーディングが注目されており、「DFlash」や<Google>の「MTP」が<Gemma>の推論を高速化している。 <llama.cpp>、<vLLM>、<SGLang>など既存の推論エンジンに加え、<LightSeek Foundation>の「TokenSpeed」や<Redis>開発者の「DS4」など新しいエンジンが登場している。 これらの最適化は、AIデータセンターの消費電力問題や計算リソース問題にも直結する。 Source URL

<Google>が、AIによって生成された「ゼロデイ攻撃」の出現の可能性を報告した。 攻撃者が生成AIを悪用する新たな局面に入ったと指摘している。 Source URL

<警視庁>が「シャドーAI」に対して注意喚起を行った。 潜在的なリスクについて、分かりやすい図を用いて解説している。 Source URL

<OpenAI>が、企業のAI導入を支援する新会社を設立した。 6000億円の投資とAIコンサルタント企業の買収を通じて、資金と人員を確保。 Source URL

<ChatGPT>における広告表示テストが、数週間以内に日本でも開始される予定。 <OpenAI>による新たな収益化モデルの一環。 Source URL

<MUFG>が<Google>と提携し、AIを活用した自律型金融サービスの実現を目指している。 AIへの指示で、決済から家計簿記録までを自動で完結させる構想。 Source URL

<Google>が、<Gemma 4>のテキスト生成を最大3倍高速化する技術「MTP」をリリースした。 大規模言語モデルの推論効率が向上する。 Source URL

<ガートナー>の調査によると、約3割のCEOがAIが自社の利益モデルを揺るがすと回答した。 AIが企業経営に与える影響に対する懸念が示された。 Source URL