ブラウザで動くローカルLLM「Gemini Nano」のデモサイトを作ってみた！のりちゃんさんの発表内容を解説

発表のハイライト

• Googleが開発したローカルLLM「Gemini Nano」の特徴や使い方を紹介
• 「Gemini Nano」を使ったリアルタイムチャットやメール作成アシスタントなどのデモサイトを制作
• 今後の「Gemini Nano」の可能性と展望について解説

ローカルLLM「Gemini Nano」ってどんなもの？

「Gemini Nano」は、Googleが開発した軽量で高速なローカルLLMです。LLMとは、大規模言語モデルのことで、大量のテキストデータから学習し、人間のような自然な文章を生成したり、翻訳したりすることができます。

「Gemini Nano」は、ブラウザ上で動作し、日本語にも対応しているのが特徴です。さらに、オフラインで利用可能で、プライバシーや機密情報も守られるので、安心して利用できます。

Gemini Nanoの特徴

• 軽量で高速
• ブラウザで動作
• 日本語対応
• ローカルLLM
• オフライン利用可能
• プライバシー保護

Gemini Nanoの使い方

「Gemini Nano」は、JavaScriptを使って簡単に利用できます。例えば、次のようなコードで、与えられた文章を3行で要約するAIアシスタントを作成することができます。

```javascript const session = await ai.assistant.create({ 'systemPrompt': "あなたは与えられた文章を3行で要約するAIアシスタントです。" });

await session.prompt("今日は個人開発集会だよ"); ```

Gemini Nano デモサイトの構成と制作

のりちゃんさんは、「Gemini Nano」を使ったデモサイトを制作しました。このサイトは、SvelteKitというフロントエンドフレームワークを使って開発され、GitHubでソースコードを管理し、Cloudflareでデプロイされています。

Gemini nano デモサイトで実現した機能

• リアルタイムチャット
• チャット
• メール作成アシスタント

現状の評価と将来の可能性

のりちゃんさんは、デモサイトを制作・利用してみて、いくつかの点に気づきました。

現状の評価

• 日本語で会話ができる
• 生成速度が早い
• それっぽい答えが返ってくる

将来的には…

• 標準のChromeでセットアップなしで誰でも使えるようになる
• 精度が向上する
• 今はまだ使えないタスクでも、今後使えるようになる

「Gemini Nano」は、まだ開発途上の段階ですが、今後の発展が期待されています。

まとめ

のりちゃんさんは、ブラウザ上で動作するローカルLLM「Gemini Nano」のデモサイトを制作し、その可能性を示しました。「Gemini Nano」は、軽量で高速、日本語対応、オフライン利用可能など、多くのメリットがあり、今後さらに進化していくことが期待されます。

今回の発表を参考に、皆さんも「Gemini Nano」で新しいアプリケーションを開発してみてはいかがでしょうか？

スライド資料はこちら

個人開発集会の他の発表もチェック！