LLM NEW オープンソース 生成AI

オープンソースLLMの環境構築 (LM Stdioのインストールから生成AIの選択まで)

ChatGPT等による無料の生成AIが多く使用できます。他方で,情報漏洩が懸念される場合があります。

情報漏洩のない企業用のオプションが各生成AIで用意されていますが,有償利用になっています。

情報漏洩せずに無償利用できる生成AIとして,オープンソースLLMが多数存在しています。

オープンソースLLMを作動させるためにはLM Stdioが便利です。また,これらのモデルはAIエージェントにも用いることができます。

そこで,LM StdioにオープンソースLLMをインストールする環境構築方法を説明します。

最初に,LM Stdioをダウンロード・インストールします。

インストールしたのち,左側の①Discoverをクリックすると,Mission Controleの画面が表示されます。ここでは, Developerモデルをインストール選択しました。

次に,Model Searchで"gpt-oss-20b"(ChatGPTの簡易モデル)などの使用したいを記述すると,モデルの一覧が表示されます。

次に,インストールしたいモデルを選択します(③)。(ここでは,oss-gpt-20bは既にインストールされています)

そして,ダウンロードボタンを選択(④)します。

ダウンロードボタンをクリック後には、左側にダウンロード・インストールの進捗状況が表示されます(⑤)。

次に,使用したいモデルを選択します。ここでは,既にインストールしているgpt-oss-20bを選択しています(⑥)

そして、Use in Chatボタンを選択して、会話をスタートさせます(⑦)。

ChatGPT等と同様に下方のボックスに会話内容を入力します(ここではpythonでcsvの読み込みコードを記述してくださいと入力しています:⑧)。

そうすることで,ChatGPTとの会話が始まります(⑨)

いかがでしょうか。このようにして,生成AIのオープンソースを作動させることができます。

-LLM, NEW, オープンソース, 生成AI