アブリレーション済みLLM：オプションの比較

アブリレーション済みLLMとは？

大規模言語モデル（LLM）は通常、人間の好みに合わせるために、人間フィードバックからの強化学習（RLHF）というプロセスを経ます。このアライメントにより、モデルは丁寧で簡潔、かつ安全になりますが、拒否動作も引き起こすようになります。アライメントされたモデルに論争的な話題について尋ねたり、NSFWコンテンツを要求したりすると、コンテンツが完全に合法であっても、安全ガイドラインを引用して拒否されることがあります。

アブリレーション済みLLMとは、これらのアライメント層が除去または「アブリレーション」されたモデルです。これは、モデルの重みからアライメントベクトルを減算することで実行されます。結果として、中核的な知能と推論能力を維持しつつ、特定の「拒否」メカニズムを持たないモデルになります。このモデルは、典型的な遠慮や講釈なしに、トピックが敏感、性的、または政治的に刺激的なものであっても、質問に直接的に回答します。

• 拒否なし： モデルは安全フィルターではなく、トレーニングデータに基づいて回答します。
• 生出力： 応答は多くの場合、より直接的で、人間向けにフォーマットされていません。
• ベースの整合性： 基礎的な知識とロジックはそのまま維持され、「人格」フィルターのみが除去されます。

このプロセスはファインチューニングとは異なります。ファインチューニングがモデルに新しいスキルを教えるのに対し、アブリレーションは単に制約を除去するだけです。これにより、アブリレーション済みモデルは、コンテンツフィルタリングの干渉なしに生のデータ抽出や創造的な自由を求める開発者に最適です。

ローカル vs ホスト型デプロイメント

Abliteratedモデルを入手したら、それを実行する方法が必要です。主な選択肢は2つあります。ローカルデプロイメントか、ホスト済みAPIの使用です。それぞれに明確な技術的および経済的な影響があります。

ローカルデプロイメント： 自分のハードウェアでモデルを実行すると、絶対的な制御権が得られます。データはあなたのマシンから決して離れないため、プライバシーが重要なアプリケーションに不可欠です。ただし、ハードウェアコスト、電気代、冷却、アップデートの責任はあなたにあります。大量のVRAMが必要です。70Bパラメータのモデルをローカルで実行するには、複数のハイエンドGPUが必要になる場合があります。

ホスト済みAPI： ホストサービスはリモートサーバー上でモデルを実行します。HTTP経由でリクエストを送信し、レスポンスを受信します。これによりハードウェア管理が不要になり、瞬時にスケールできます。通常は前払いトークンを通じて、使用した分だけお支払いいただきます。トレードオフは、データがサードパーティサーバーを通過することですが、多くのプロバイダーはプロンプトをトレーニングに使用しません。

ほとんどの開発者にとって、ホスト型APIはコストと利便性のバランスが最も取れており、特に初期段階では最適です。

Ollamaとローカルモデル

Ollamaは、オープンソースのLLMをローカルで実行するための標準的なツールとなりました。Llama 3、Mistral、Qwenなどのモデルのダウンロード、量子化、サービングのプロセスを簡素化します。これらのモデルのアブリレーション済みバージョンを簡単にダウンロードし、ローカルのAPIエンドポイント経由でサーブできます。

Ollamaを使用すると、ollama pull abliterated-modelのような簡単なコマンドでモデルをプルできます。このツールは量子化を処理するため、コンシューマーグレードのハードウェアでより大きなモデルを実行できます。ただし、ローカル推論の速度はGPUの計算能力によって制限されます。専用データセンターと比較して、テキストの生成が遅くなる場合があります。

ローカルモデルはプロトタイピングやデータ主権の確保に優れています。プライベートなナレッジベースや機密ユーザーデータを処理するツールを構築している場合、ローカルデプロイメントにより、サードパーティがあなたの入力を決して見ることがなくなります。Ollamaはストリーミングとツール呼び出しもサポートしており、堅牢なローカルサーバーとなります。ただし、環境、依存関係、ハードウェア障害の管理は自分で行う必要があります。

ローカルインストールのシンプルさとクラウドGPUのパワーの両方を求めるユーザー向けにはハイブリッドアプローチが存在しますが、Ollamaは最もシンプルなローカルソリューションです。

APIアクセスの利点

abliterated モデルのホスト型 API を使用すると、特に本番環境において、いくつかの技術的な利点があります。最も重要な利点は、OpenAI 互換のインターフェースです。多くの abliterated API は /v1/chat/completions 標準に従っているため、GPT-4 で使用するのと同じ SDK やコードを使用できます。

互換性: 既存のコードのベース URL を変更するだけで、abliterated プロバイダを指すように設定できます。これにより、統合にかかる時間を大幅に短縮できます。

機能: 最新の API はストリーミング応答、関数呼び出し、JSON モードをサポートしています。これにより、構造化された出力やツール使用を必要とする複雑なアプリケーションを、商用モデルと同様に構築できます。

稼働時間: 専門的な API プロバイダは高い可用性を保証します。重要なリクエスト中にローカルの GPU が過熱したり、電源が故障したりすることを心配する必要はありません。

プライバシー： Abliteratedモデルを提供するものを含む多くのホストプロバイダーは、プロンプトをトレーニングに使用しません。これは、データプライバシーを犠牲にすることなく、無検閲モデルの恩恵を得たい企業にとっての重要なポイントです。

API アプローチはモデルのサービングの複雑さを抽象化し、アプリケーションロジックに集中できるようにします。

コスト比較

コスト構造を理解することは、LLM 使用の予算策定において重要です。ローカルモデルは固定コストが高いものの、限界コストは低いです。GPU を購入すれば、電気代を除いて推論は「無料」になります。ホスト型 API は固定コストが低く、トークンごとに変動するコストがかかります。

ローカルコスト: 単一の NVIDIA A100 GPU の価格は 10,000〜15,000 ドルになる場合があります。複数のモデルを同時に実行できますが、VRAM が制限要因となります。より多くの容量が必要な場合は、ハードウェアを追加で購入する必要があります。これは長期間にわたる大量の使用においてコスト効果的です。

API コスト: ホスト型 API は通常、100 万トークンあたりで課金します。abliterated モデルの場合、オープンのウェイトベースを使用しているため、価格はしばしば商用モデルよりも安くなります。例えば、典型的なレートは入力トークン 100 万あたり 0.25 ドル、出力トークン 100 万あたり 1.00 ドルとなります。これは GPT-4o よりも大幅に安価です。

サブスクリプションの摩擦なし: 多くの API プロバイダは前払いトークンモデルを使用しています。クレジットを購入し、使用し、必要に応じてさらに購入します。月額料金や拘束はありません。これは、使用量が急増する期間と静止期間がある変動ワークロードに最適です。

ほとんどの開発者にとって、API モデルは毎日専用クラスターで数百万件のリクエストを実行しない限り、よりコスト効果的です。

パフォーマンスの考慮事項

ローカルとホストのどちらを選ぶかにおいて、レイテンシ、スループット、コンテキストウィンドウのサイズなどのパフォーマンス指標が重要です。ローカルモデルはハードウェアの計算能力とメモリ帯域幅によって制限されます。消費者向けの GPU では秒間 20 トークンを生成するのに対し、データセンターの GPU では数百トークンを生成できます。

コンテキストウィンドウ： ローカルモデルとホストモデルの両方が、100,000トークン以上の大きなコンテキストウィンドウをサポートしています。これにより、長いドキュメントの処理や、長い会話履歴の維持が可能になります。ローカルGPUのVRAMが、コンテキスト全体を保持するのに十分な容量があることを確認してください。

レイテンシ: ホスト型 API には、計算時間に加えてネットワークレイテンシ（ping）がかかります。ただし、データセンターは低レイテンシの推論向けに最適化されています。ローカルモデルはネットワークレイテンシがほぼゼロですが、計算レイテンシが高くなる可能性があります。

同時実行数: ホスト型 API は数千の同時リクエストを処理できます。ローカルモデルは GPU のメモリと計算コアによって制限されます。複数のユーザーに同時にサービスを提供する必要がある場合、ホスト型 API の方が一般的にスケーラビリティに優れています。

リアルタイムアプリケーションの場合、ホスト型 API はより高いスループットと一貫したパフォーマンスにより、より滑らかなユーザー体験を提供することがよくあります。

無検閲モデルの使用例

abliterated モデルは、拒否が邪魔になる特定の使用例で輝きます。これらのモデルは NSFW コンテンツのためだけでなく、生でフィルタリングされていないデータが必要な分野でも優れています。

• クリエイティブライティング: 作家は、モデルがキャラクターを崩したり安全ガイドラインを引用したりすることなく、より暗く、より複雑なテーマを探求できます。
• 感情分析: 無検閲モデルは、ポジティブまたは丁寧な応答へのバイアスがかかっていないため、より正直でニュアンスのある感情分析を提供することがよくあります。
• ロールプレイ: チャットボットやバーチャルコンパニオンにとって、abliterated モデルは自己説明のために流れを中断することなく、より良いキャラクター維持を実現します。
• データ抽出: スクレイピングや情報抽出を行う際、モデルには「安全な」部分だけでなく、関連するすべての情報を出力してほしいものです。
• リサーチ: バイアスやアライメントを研究する研究者は、アライメントされたモデルと比較するためのベースラインとして abliterated モデルを使用できます。

重要なのは、モデルの真の出力分布が得られることであり、人間が承認した平滑化されたバージョンではないことです。これは、丁寧さよりも真正性が重要であるアプリケーションにとって非常に価値があります。

意思決定マトリックス

お選びいただくために、一般的な開発者のニーズに基づいた意思決定マトリックスを示します。主要な制約条件は何かを考慮してください。それはデータプライバシー、コスト、または使いやすさのいずれですか？

プロトタイプや小規模なアプリケーションを構築している場合、ホスト型 API が通常は最適なスタートポイントです。プライバシーのニーズが変わった場合に備えて、後でローカルに移行することもできます。逆に、機密性の高い法的または医療データを処理している場合、ローカルデプロイメントの方が安全です。