ブラウザで動くローカルLLM「Gemini Nano」のデモサイトを作ってみた!のりちゃんさんの発表内容を解説

詳細情報

日時 2024年11月21日 22:00 - 22:30
テーマ ブラウザで動くローカルLLM Gemini Nanoのデモサイトを作ってみた
発表者 のりちゃん
集会名 個人開発集会
発表資料 ファイル

発表のハイライト

  • Googleが開発したローカルLLM「Gemini Nano」の特徴や使い方を紹介
  • 「Gemini Nano」を使ったリアルタイムチャットやメール作成アシスタントなどのデモサイトを制作
  • 今後の「Gemini Nano」の可能性と展望について解説

ローカルLLM「Gemini Nano」ってどんなもの?

「Gemini Nano」は、Googleが開発した軽量で高速なローカルLLMです。

LLMとは、大規模言語モデルのことで、大量のテキストデータから学習し、人間のような自然な文章を生成したり、翻訳したりすることができます。

「Gemini Nano」は、ブラウザ上で動作し、日本語にも対応しているのが特徴です。

さらに、オフラインで利用可能で、プライバシーや機密情報も守られるので、安心して利用できます。

Gemini Nanoの特徴

  • 軽量で高速
  • ブラウザで動作
  • 日本語対応
  • ローカルLLM
  • オフライン利用可能
  • プライバシー保護

Gemini Nanoの使い方

「Gemini Nano」は、JavaScriptを使って簡単に利用できます。

例えば、次のようなコードで、与えられた文章を3行で要約するAIアシスタントを作成することができます。

const session = await ai.assistant.create({
'systemPrompt': "あなたは与えられた文章を3行で要約するAIアシスタントです。

"
});

await session.prompt("今日は個人開発集会だよ");

Gemini Nano デモサイトの構成と制作

のりちゃんさんは、「Gemini Nano」を使ったデモサイトを制作しました。

このサイトは、SvelteKitというフロントエンドフレームワークを使って開発され、GitHubでソースコードを管理し、Cloudflareでデプロイされています。

Gemini nano デモサイトで実現した機能

現状の評価と将来の可能性

のりちゃんさんは、デモサイトを制作・利用してみて、いくつかの点に気づきました。

現状の評価

  • 日本語で会話ができる
  • 生成速度が早い
  • それっぽい答えが返ってくる

将来的には…

  • 標準のChromeでセットアップなしで誰でも使えるようになる
  • 精度が向上する
  • 今はまだ使えないタスクでも、今後使えるようになる

「Gemini Nano」は、まだ開発途上の段階ですが、今後の発展が期待されています。

まとめ

のりちゃんさんは、ブラウザ上で動作するローカルLLM「Gemini Nano」のデモサイトを制作し、その可能性を示しました。

「Gemini Nano」は、軽量で高速、日本語対応、オフライン利用可能など、多くのメリットがあり、今後さらに進化していくことが期待されます。

今回の発表を参考に、皆さんも「Gemini Nano」で新しいアプリケーションを開発してみてはいかがでしょうか?

スライド資料はこちら

個人開発集会の他の発表もチェック!

初心者でもできる!AITuber開発の道 - VRChat個人開発集会

Bun×AI SDK×Cloudflareで構築するカスタム音声アシスタント - らてさんが明かす最新技術スタック

VRChatワールド制作:ユーザー課題解決で生まれる新たな価値

【実践解説】ChatGPTとCursorで作るTwitterブロック拡張機能の開発手順 - 4〜5時間でリリースした話

Denoモノレポは茨の道?Sveltekit、Hono、Drizzle構成でハマった話

VRChatのポスター管理をブラウザから!「SyncFrame」でイベント運営がもっと楽になる!

個人開発集会の開催情報・参加方法

個人開発集会のポスター

個人開発集会

開催日: 2024年11月21日

開催時間: 21:00 - 22:00

開催曜日: 木曜日

開催周期: 隔週(グループA)

個人開発にまつわる話でワイワイする集会です。 個人開発をやっている方も初めてみたい方も大歓迎! 企画・技術・マーケティング・保守・運用など 技術的なことに限らない幅広い分野を想定しています。 個人開発に興味がある方はぜひ遊びに来てください!

個人開発にまつわる話でワイワイする集会です。 個人開発をやっている方も初めてみたい方も大歓迎! 企画・技術・マーケティング・保守・運用など 技術的なことに限らない幅広い分野を想定しています。 個人開発に興味がある方はぜひ遊びに来てください!