私は、ドキュメントを Claude または ChatGPT にアップロードする前にドキュメントから個人情報を削除したり、Kindle 用に毎日の RSS ダイジェストを生成したりするなど、複数の目的でローカル LLM を使用しています。私のハードウェアでは小さな LLM であってもパフォーマンスが遅いにもかかわらず、私はそれらをスマート ホームのさまざまな用途に使用しています。
朝のブリーフィングの作成
複数のソースからの情報を組み合わせる
これは私のお気に入りの自動化の 1 つであり、ローカル LLM がその動作の基礎となります。私は、ニュース、天気、スポーツの最新情報などを提供する Alexa Flash Briefings のアイデアがずっと気に入っていました。しかし、彼らは決して個人的なものではありませんでした。
自分で構築することにしました。ホーム アシスタントから、カレンダーのイベント、学校給食情報、ゴミ収集日、気象データなどのデータを取得します。これらすべてのデータは朝のブリーフィングにまとめられ、キッチンに入るとスマート スピーカーによって読み上げられます。
LLM は、すべての情報を自然言語に結合し、いくつかの個性を加えてブリーフィングを作成します。大量の個人情報をクラウドベースの AI プラットフォームと共有したくないため、ローカル LLM を使用することをお勧めします。処理は遅いですが、ブリーフィングは私たちが立ち上がる前に生成されるため、キッチンに入ったときにいつでも再生できる状態になっています。
セレロン FCBGA1264 3.6GHz
統合インテル グラフィックス 24EU 1000MHz
Beelink Mini S13 Pro デスクトップ PC は、Intel N150 プロセッサを搭載した超小型コンピュータです。 16 GB の DDR4 RAM と 500 GB SSD が付属するこのマイクロ デスクトップは、さまざまなワークロードに最適です。単純なサーバー プログラムの実行から古い PC の交換まで、Beelink S13 Pro はあらゆる作業をこなします。
自然な音声アナウンスを作成する
毎日新鮮なリマインダー
LLM は言語を処理して生成するように訓練されているため、自然な響きのテキストを生成するのが得意なのは当然のことです。これをスマートホームで活用できる方法はたくさんあります。
モーションセンサーの統計を調べて、子供たちが学校に行っているときに私と妻が1日に約50回キッチンに入ることがわかったので、キッチンに入るたびに何かを片づけるように音声アナウンスを流す自動化を設定しました。最初はうまくいきましたが、繰り返しのアナウンスが無視されやすくなってしまいました。
ローカル LLM を使用することで、毎日まったく新しい発表が行われるようになりました。そのため、何を言うかわかりません。それらは少し生意気なひねりを加えて生成されているため、非常に面白いものが多く、とても聴きたくなるものです。
私たちは彼らの意見に積極的に耳を傾けているので、無視することははるかに困難です。それはキッチンでの仕事を続けるのに本当に役立ちます。
JARVIS にやるべきことを思い出させてもらう
未処理の To Do リスト項目の音声による要約
私がスマート ホーム テクノロジーで最初に行ったことの 1 つは、Xbox Kinect センサーと、音声コマンドをスマート ホームの指示に変換する JARVIS と呼ばれるソフトウェアを使用して、音声コントロールをセットアップすることでした。
独自のスマート スピーカーを作成したら、それをアイアンマンの AI バトラーの自分バージョンに変えるのは簡単でした。イギリス人男性の声を使って、私のスマート スピーカーが重要な情報を知らせてくれます。
最も便利な機能の 1 つは、ホーム アシスタントの To Do リストに残っているタスクを教えてくれることです。地元の LLM がこのリストを英国の AI 執事風の書面によるアナウンスに変換し、その後、地元の TTS モデルがそのテキストを適切な英国アクセントの音声に変換します。音声はスマート スピーカーから再生されます。それは私がアイアンマンになることに限りなく近いです。
もっと引っ越したくなるような日報カード
健康データを使って私を怖がらせて行動に移す
生活のために書くことは健康的なライフスタイルではありません。私はキーボードの上にかがみ込み、何時間も机に座って過ごしていますが、これは健康によくありません。私は自分に強制的に立ち上がってもっと動くようにするためにいくつかの方法を試しました。
私がやったことの 1 つは、地元の LLM に嫌味な成績表を書いてもらうことです。これは、歩数や立っている時間など、Apple Watch から取得した健康データを使用します。また、プレゼンスセンサーによって測定された、私がデスクに座っていた時間も調べられます。
毎朝、ローカル LLM はすべての情報を照合してレポートを作成し、それが読み上げられて Home Assistant ダッシュボードに表示されます。多くの場合、それは私を恥じて、もっと動くようにするのに役立ちます。
朝のニュースを調べてみると
スマートスピーカーが近況を教えてくれる
私たちが最初にキッチンに入ったときに朝のブリーフィングが流れますが、それはその日の最初のアナウンスではありません。ベッドから出る前であっても、スマート スピーカーは、私が最も関心のあるトピックに基づいたニュースの見出しの概要を教えてくれます。
情報は、特定のニュース ソースまたはトピックに焦点を当てた Web サイトからの RSS フィードを使用して取得されます。その後、主要な記事はローカル LLM に渡され、LLM はそれらを組み合わせて短いカスタム ニュース ブリーフィングを作成します。毎朝携帯電話を充電器から外し、スマートスピーカーで再生するとトリガーされます。一日を始めるのに最適な方法です。
ローカル LLM は高速である必要はない
このリストにあるすべての使用法では、ローカル LLM が結果を生成するまでに時間がかかります。私が眠っているときに LLM が動作するようにすれば、どれだけ時間がかかっても問題ありません。結果は常に準備ができており、必要なときにすぐに待っています。
このテーマについてさらに詳しく知りたい方は以下をご覧ください