OpenAIが半導体企業のBroadcomと共同で設計・製造した初のカスタムプロセッサ「Jalapeño(ハラペーニョ)」を発表しました。このJalapeñoはOpenAIの推論システムに合わせて特別に設計されたチップで、OpenAIのAIを活用しながら設計から製品化までわずか9カ月で開発されたとのことです。

［株式会社エーアイ・アンド］ai&（株式会社エーアイ・アンド、本社：神奈川県横浜市、Co-Founder & CEO：デビット・ベネット、Co-Founder & President：原 信平、以下「ai&」）は本日、日本企業向けに設計された高性能AI推論プラットフォーム「ai& Inference」（読み：エーアイアンド・インファレンス）の提供を開始しました。米Anthropicの「Claude ...

Googleが2026年7月9日、ウェブブラウザ内でAIモデルを高速に実行するためのJavaScript向けランタイム「LiteRT.js」を発表しました。

オンラインビジネスの力となり、守るサイバーセキュリティおよびクラウドコンピューティング企業、Akamai Technologies（NASDAQ：AKAM）は、Akamai Inference Cloud を発表しました。このプラットフォームは、AI 推論が実行される場所をコアデータセンターから ...

AIモデルを大規模に提供する企業にとって課題となっているのが、ユーザーの入力に応じてAIモデルが出力を生成するプロセスにかかる推論コストです。新たに、OpenAIのエンジニアたちが「推論コストを半分以下に削減する方法を見つけた」と語ったと、海外メディ ...

会社で「うちは Inference Compute の予算で月3000万くらい使ってる」と言われ、最近そういう言い方が増えたな、と思った。 3年前なら「AI API 利用料」と呼んでいた数字に、専用の名前がついた瞬間だ。 一言でいうと 学習済み AI モデルを実際に動かすために ...

Flux dev 8fpを使用した際、生成される画像にAI特有の不自然さを感じました。これはいわゆる「ガチャ要素」の影響もあると考えられますが、生成時に使用するnum_inference_stepsとguidance_scaleの設定値によって、結果が変わるかもしれないので、検証を行いました。

AIサーバーの性能評価を実施している業界コンソーシアムのMLCommonsが推論性能ベンチマークテスト「MLPerf Inference v6.0」の結果を公開しました。MLPerf Inference v6.0は大規模言語モデルや動画生成モデルを実行した際の処理速度を測定するベンチマークテストで ...

AIモデルを稼働させるための推論サーバ「NVIDIA Triton Inference Server」に複数の脆弱性が確認された。深刻な脆弱性も含まれる。 NVIDIAは現地時間2026年5月19日、セキュリティアドバイザリを公開し、CVEベースで8件の脆弱性を明らかにしたもの。脆弱性によって対象 ...

2021年7月31日から8月21日にかけて、山本 鉄平准教授（マサチューセッツ工科大学政治学部）による夏季集中講義「Advanced Topics in Political Economy: Causal Inference」が実証政治経済学拠点の招聘で実施された。本講義は、授業前半はオンライン配信、後半は対面授業 ...