AI技術を応用して人の手で行っていた作業を自動化する流れはますます加速しており、特にウェブブラウザ上での操作を自動化するツールは多くのユーザーにとって有用そうです。しかしAI自動化ツールの多くはクラウドベースであるためAPIキーの取得といった煩雑な手 ...

ChatGPTをはじめとした生成AIにおけるここ数年の勃興は語るまでもありません。特にユーザーからの自然言語による対話をもとに文章を生成する仕組みは、すでに趣味や研究の範囲を超えて各分野の業務でも広く使われるようになりつつあります。その自然 ...

株式会社インテックは1月29日、生成AIの導入や活用を検討している企業に向けて、オンプレミス環境で生成AIを活用できるローカルLLM（大規模言語モデル）の導入支援を開始すると発表した。クラウドを介さずに稼働するLLMをオンプレミス環境に最短1カ月で構築し、機密情報を扱う業務においても生成AIの組織的な活用を可能にするという。

MicrosoftのProduct ManagerであるSteven Bucher氏は、AI言語モデルをコマンドラインベースのシェルインターフェースに実装するOSS「AI Shell」Preview 2のリリースを公式ブログで発表した。ソースコードや各種ファイルはGitHubに設置してある。Preview 2では、OpenAI仕様に ...

LM Studioチームは現地時間1月28日、ローカルLLMプラットフォーム最新版の「LM Studio 0.4.0」をリリースした。 「LM Studio」の最新版では、GUIとコアとなるllmsterデーモンが分離されており、コマンドで各モデルのダウンロードや対話が行える。Linux環境やクラウド ...

トランスエヌ株式会社（本社：東京都、代表取締役：那小川、以下 Trans‑N）は、MacOS上で大規模言語モデル（LLM）を軽量 ...

OpenAIの｢gpt-oss-20b｣を動かしているところ Photo: かみやまたくみ ローカルLLMとは、ざっくり言ってしまうと｢無料で公開されている大規模言語モデル｣のことで、自分のPCにダウンロード・専用ソフトで読み込んで使います。ChatGPTのような“主流AI”への ...

これまでローカルPCでは、ビデオカードのVRAM(ビデオメモリ)容量の関係から本連載で試せたのは34Bクラスまでだった。ところが最近、遅くなるものの、不足分はメインメモリを使って補うことによって、104BクラスのCommand R+が動くようになったので、2つの ...

カゴヤ・ジャパン株式会社は27日、クラウドサービス「KAGOYA CLOUD VPS」において、複数の大規模言語モデル（LLM）をOpenAI API互換で統一的に管理・運用できるOSSプロキシ「LiteLLM」のセットアップ機能を提供開始した。 同機能は、AI活用を進める情報システム ...

ローカルLLMとは、近年の生成AI業界で注目されているLLM（Large Language Model：大規模言語モデル）の一種だ。一般的によく知られているChatGPTなどのLLMサービスにはないメリットがあり、特に企業など、セキュリティを重視する必要のある組織で活用が進みつつある ...