ブラウザで動くローカルLLM「Gemini Nano」のデモサイトを作ってみた！のりちゃんさんの発表内容を解説
詳細情報
| 日時 | 2024年11月21日 22:00 - 22:30 |
|---|---|
| テーマ | ブラウザで動くローカルLLM Gemini Nanoのデモサイトを作ってみた |
| 発表者 | のりちゃん |
| 集会名 | 個人開発集会 |
| 発表資料 | ファイル |
発表のハイライト
- Googleが開発したローカルLLM「Gemini Nano」の特徴や使い方を紹介
- 「Gemini Nano」を使ったリアルタイムチャットやメール作成アシスタントなどのデモサイトを制作
- 今後の「Gemini Nano」の可能性と展望について解説
ローカルLLM「Gemini Nano」ってどんなもの？
「Gemini Nano」は、Googleが開発した軽量で高速なローカルLLMです。
LLMとは、大規模言語モデルのことで、大量のテキストデータから学習し、人間のような自然な文章を生成したり、翻訳したりすることができます。
「Gemini Nano」は、ブラウザ上で動作し、日本語にも対応しているのが特徴です。
さらに、オフラインで利用可能で、プライバシーや機密情報も守られるので、安心して利用できます。
Gemini Nanoの特徴
- 軽量で高速
- ブラウザで動作
- 日本語対応
- ローカルLLM
- オフライン利用可能
- プライバシー保護
Gemini Nanoの使い方
「Gemini Nano」は、JavaScriptを使って簡単に利用できます。
例えば、次のようなコードで、与えられた文章を3行で要約するAIアシスタントを作成することができます。
const session = await ai.assistant.create({
'systemPrompt': "あなたは与えられた文章を3行で要約するAIアシスタントです。
"
});
await session.prompt("今日は個人開発集会だよ");
Gemini Nano デモサイトの構成と制作
のりちゃんさんは、「Gemini Nano」を使ったデモサイトを制作しました。
このサイトは、SvelteKitというフロントエンドフレームワークを使って開発され、GitHubでソースコードを管理し、Cloudflareでデプロイされています。
Gemini nano デモサイトで実現した機能
現状の評価と将来の可能性
のりちゃんさんは、デモサイトを制作・利用してみて、いくつかの点に気づきました。
現状の評価
- 日本語で会話ができる
- 生成速度が早い
- それっぽい答えが返ってくる
将来的には…
- 標準のChromeでセットアップなしで誰でも使えるようになる
- 精度が向上する
- 今はまだ使えないタスクでも、今後使えるようになる
「Gemini Nano」は、まだ開発途上の段階ですが、今後の発展が期待されています。
まとめ
のりちゃんさんは、ブラウザ上で動作するローカルLLM「Gemini Nano」のデモサイトを制作し、その可能性を示しました。
「Gemini Nano」は、軽量で高速、日本語対応、オフライン利用可能など、多くのメリットがあり、今後さらに進化していくことが期待されます。
今回の発表を参考に、皆さんも「Gemini Nano」で新しいアプリケーションを開発してみてはいかがでしょうか？
個人開発集会の他の発表もチェック！
個人開発集会の開催情報・参加方法
個人開発集会
開催日: 2024年11月21日
開催時間: 21:00 - 22:00
開催曜日: 木曜日開催周期: 隔週(グループA)
個人開発にまつわる話でワイワイする集会です。 個人開発をやっている方も初めてみたい方も大歓迎！ 企画・技術・マーケティング・保守・運用など 技術的なことに限らない幅広い分野を想定しています。 個人開発に興味がある方はぜひ遊びに来てください！