ほとんどの人が捨ててしまうようなラップトップで一晩実行する 5 つのローカル AI タスク

私には古いラップトップが 2 台あり、ほとんど何もせずに放置されています。そのうちの1人は、つい最近まで文字通りクローゼットの中に座って埃をかぶっていた。これは完全に優れたハードウェアの無駄です。多くのローカル AI ジョブは、実行する時間があれば、16 GB の RAM を搭載した CPU で問題なく実行できます。私の古いラップトップはその計画に完全に適合します。

これらの AI ジョブをローカルで実行することで、プライベート データの機密性を確保し、API コストを回避し、クラウド サービスに適用される場合があるレート制限を回避できます。

これらは、私が古いラップトップで一晩実行した 5 つのローカル AI ジョブです。

録音を文字に起こして要約する

Whisper は何時間もの音声を検索可能なテキストに変換します

ボイスメモ、講義、会議のバックログがある場合は、それらを対応する概要を含む検索可能なテキストに変換できます。

このタスクは、CPU 上でローカルに実行されるオープンソースの音声テキスト変換モデルである Whisper を使用して実行されます。

Whisper は非常に効率的で、ほとんどの準近代的なプロセッサでほぼリアルタイムで実行されます。つまり、一晩で何時間ものボイスメモをかき回し、朝にはきちんとしたテキストのトランスクリプトが期待できるということです。 50 時間のバックログがある場合は、5 晩以上実行し続けるか、より小型で高速なモデルを使用することを計画してください。

いくつかの制限があります。 Whisper は、騒がしい環境やクロストークが多い場合には苦戦する可能性があり、1 回の録音で複数の異なる話者を確実に追跡するには、別の AI モデルが必要になります。

これを試すには、オーディオのフォルダーで Whisper.cpp または Faster-whisper を実行し、結果として得られる各トランスクリプトを概要プロンプトとともにローカル LLM に渡し、出力をオーディオの隣に Markdown ファイルとして保存します。

山積みのスキャンと PDF を検索可能なアーカイブに変える

OCR とローカル モデルにより、ドキュメントにタイトルを付け、タグ付けし、ファイルに保存できます

私には信じられないほどの数の文書がデジタルと紙の両方で保存されています。それらを分類するのは不可能なほど面倒になってきました。

そこで、Paperless-ngx が登場します。Paperless-ngx には、複数の異なる AI テクノロジーが組み込まれています。 1 つ目は基本的な光学式文字認識 (OCR) で、スキャンまたはアップロードしたすべてのドキュメントの検索可能なバージョンを作成するために使用されます。

他のモデルは、ドキュメントを分類してタグを付けて検索を容易にしたり、ドキュメントの内容に基づいて各ドキュメントに関する質問に答えたりすることができます。

主な利点はプライバシーです。税務書類、医療記録、政府 ID などの機密文書をインターネットやクラウド AI サービスにアップロードすることを避けられるのであれば、そうすべきです。

まず、Docker Compose で Paperless-ngx を起動し、「consume」フォルダーをスキャンまたは写真に指定し、Paperless-ngx の組み込み AI を有効にして Ollama に指定し、寝ている間に AI にバックログを処理させます。

写真ライブラリを検索可能にする

ローカルビジョンモデルは顔、物体、シーンを分類します

商用のクラウド写真ストレージ ソリューションから逃れようとしている場合、または分類されていない何年ものアーカイブ写真がある場合は、Immich を使用して、AI を活用したスマート検索と顔認識を備えた自己ホスト型ライブラリを構築できます。

古いラップトップでは、大量の写真を実行するのに数時間、場合によっては数日かかることがあります。そのため、数晩続けるのに最適なプロジェクトになります。

より軽量な代替手段が必要な場合は、単純なスクリプトを使用して、ビジョン対応モデルで各画像にキャプションを付け、そのテキストを画像に付随する小さなテキスト ファイル (サイドカー) に書き込むことができます。

電子ブックや長文読み物をオーディオブックに変換

ローカルのテキスト読み上げにより、本全体のナレーションを行うことができます

まれに、読んでみたいテキストのデジタル コピーがありますが、実際に座って読む気力も時間もありません。

そこで、AI ツールを使用して、テキストを章付きのオーディオブックに自動的に変換するテストをしました。

最も魅力的なオーディオブックは生成されません。古い CPU で実行できるテキスト読み上げモデルは、やや平坦になる傾向があり、優れた声優のようなダイナミックさに欠けます。

Audiblez または ebook2audiobook から始めて、単一の章で音声をテストすることをお勧めします 前に オーディオブック全体を一晩で作成することに専念します。

古い写真やビデオをアップスケールして復元する

AI アップスケーラーは統合グラフィックスでは遅い

古い家族の写真やホーム ビデオのアーカイブがある場合は、Upscayl (画像) や Video2X (ビデオ) などのツールを使用して、古いメディアを拡大してクリーンアップできます。どちらも Vulkan と互換性のある GPU を必要とするため、Vulkan をサポートしているラップトップの統合グラフィックス上で動作しますが、CPU 単体では動作しません。

結果は、入力と選択したアップスケーリング モデルによって異なります。

統合グラフィックスではアップスケーリングが非常に遅くなります。統合グラフィックスでは 1920×1080 の画像を 1 つ生成するのに少なくとも 1 分かかることが予想されます。ビデオのアップスケーリングはさらに長いプロジェクトです。

テストとして小さく始めてください

どのプロジェクトを実行する場合でも、最初は小規模から始めることを常にお勧めします。いくつかのサンプル画像、epub、またはドキュメントが含まれるフォルダーを 1 つ選択し、一晩実行します。実行時間を何時間も費やす前に、出力が実際に役立つことを確認してください。

また、上書きや削除を自動化しないでください。AI は、少しでも余裕を持たせれば、削除すべきではないものを喜んで削除します。

また、ラップトップを冷却するためにできることを行うことをお勧めします。 AI タスクは大量の熱を発生するため、コンポーネントやバッテリーに負担がかかる可能性があります。