Start typing to search across invoices, services, domains, tickets, and more...
越境ビジネスで社内向け AI カスタマーサポート・ナレッジベース(RAG)を運用する最も現実的な方法は、ドキュメント・ベクトルデータベース・チャット履歴を自社で管理する専用サーバーに置き、埋め込みと回答生成のときだけ公式の LLM API を呼び出す構成です。IMIDC は東京(日本)、シンガポール、台北(台湾)、ロサンゼルス(米国)で専用サーバーを提供しており、いずれも OpenAI・Anthropic Claude・Google Gemini の API が公式に利用できる地域なので、顧客データをサービス対象地域内に保てます。
RAG(検索拡張生成)はモデルの記憶ではなく自社ドキュメントを根拠に回答させるため、誤回答を減らし、ポリシーに沿った応対ができます。
流れはシンプルです。マニュアル、FAQ、返品ポリシー、製品仕様書、過去チケットの解決内容をチャンクに分割し、それぞれをベクトル(埋め込み)に変換してベクトル DB に保存します。質問が来たら質問文もベクトル化して近いチャンクを検索し、そのチャンクと質問だけを LLM に渡して、出典付きの回答を作らせます。
日本語・英語・中国語の問い合わせを扱う越境 EC 事業者なら、多言語インデックス 1 つで全チャネルに対応できます。
ドキュメント量が多い、データ管理要件が厳しい、問い合わせ量が安定している——そんな場合は、メモリ・ディスク・コストが固定で、送ると決めたチャンク以外はデータがサーバー外に出ない専用サーバーが有利です。
| 項目 | SaaS 型 RAG チャットボット | IMIDC 専用サーバーで自前運用 |
|---|---|---|
| ドキュメント・ログの保存先 | ベンダーのクラウド(リージョン不明確なことも) | 東京・シンガポール・台北・ロサンゼルスの自社サーバー |
| 料金体系 | 席数・メッセージ数・文書数課金 | 固定月額+API のトークン従量 |
| ベクトル容量 | プラン上限あり | RAM と NVMe 次第 |
| アクセス制御 | ベンダー仕様 | チーム・ブランド・顧客ランク別に独自 ACL |
| モデル選択 | 多くは 1 社固定 | OpenAI・Claude・Gemini、ローカル埋め込みモデルを切替可能 |
| 運用負荷 | 低い | Docker・バックアップ・更新を自社で |
鍵になるのはメモリです。1536 次元・float32 のベクトル 100 万件で生データだけで約 6 GB、さらにインデックス分が加わります。Qdrant も pgvector もインデックスが RAM に載っているときに最も高速です。64〜128 GB の RAM を積んだ専用サーバーなら、ベクトル、PostgreSQL、取り込み処理、キャッシュを余裕を持って載せられ、小型 VPS のような他ユーザーの影響も受けません。
顧客と法的義務がある地域に、かつ AI API が公式提供されている地域に置くのが原則です。
| IMIDC ロケーション | 向いている用途 | AI API | 個人情報保護法制(概要) |
|---|---|---|---|
| 東京(日本) | 日本の顧客、楽天・Amazon.co.jp 出店者 | 公式提供 | 個人情報保護法(APPI) |
| シンガポール | 東南アジア、多国対応のサポート窓口 | 公式提供 | PDPA |
| 台北(台湾) | 繁体字サポート、台湾市場 | 公式提供 | 台湾個人資料保護法 |
| ロサンゼルス(米国) | 北米の顧客、米国マーケットプレイス | 公式提供 | 各州のプライバシー法 |
| 香港/モスクワ(ロシア) | 本用途には非推奨 | 公式提供なし | — |
最初はコンテナ 3 つで十分です:ベクトル DB、メタデータとチャット履歴用の PostgreSQL、そして自社の取り込み/チャット API。
先に Docker をインストール(ヘルプセンターの Docker 導入ガイド参照)し、以下のファイルを作成します。ポートはすべて 127.0.0.1 にバインドし、外部公開は Nginx+HTTPS 経由のみとします。
# docker-compose.yml - private RAG stack (all ports bound to localhost)
services:
qdrant:
image: qdrant/qdrant:v1.12.4
restart: unless-stopped
volumes:
- ./qdrant_storage:/qdrant/storage
ports:
- "127.0.0.1:6333:6333"
environment:
QDRANT__SERVICE__API_KEY: ${QDRANT_API_KEY}
postgres:
image: pgvector/pgvector:pg16
restart: unless-stopped
environment:
POSTGRES_USER: rag
POSTGRES_PASSWORD: ${PG_PASSWORD}
POSTGRES_DB: kb
volumes:
- ./pgdata:/var/lib/postgresql/data
ports:
- "127.0.0.1:5432:5432"
rag-api:
build: ./rag-api # your ingestion + retrieval + chat service
restart: unless-stopped
env_file: .env # OPENAI_API_KEY / ANTHROPIC_API_KEY / GEMINI_API_KEY
depends_on: [qdrant, postgres]
ports:
- "127.0.0.1:8080:8080" # publish through Nginx + HTTPS only
# .env (chmod 600, never commit)
QDRANT_API_KEY=change-me-long-random
PG_PASSWORD=change-me-long-random
OPENAI_API_KEY=sk-...
ANTHROPIC_API_KEY=sk-ant-...
EMBED_MODEL=text-embedding-3-small
CHUNK_TOKENS=500
CHUNK_OVERLAP=60
DB を 1 つにまとめたい場合は Qdrant を外し、pgvector でメタデータとベクトルを管理します。
-- pgvector alternative: one table, one HNSW index
CREATE EXTENSION IF NOT EXISTS vector;
CREATE TABLE chunks (
id bigserial PRIMARY KEY,
doc_id text NOT NULL,
lang text,
acl text[], -- which teams/customers may see it
content text NOT NULL,
embedding vector(1536)
);
CREATE INDEX ON chunks USING hnsw (embedding vector_cosine_ops);
数百万件を超える規模やペイロードフィルタ・量子化が必要なら Qdrant、すでに PostgreSQL を運用しているチームなら pgvector が手軽です。取り込み前に API への疎通を確認しましょう。
# confirm the API endpoints are reachable from this server
curl -s -o /dev/null -w "%{http_code}\n" https://api.openai.com/v1/models \
-H "Authorization: Bearer $OPENAI_API_KEY"
curl -s -o /dev/null -w "%{http_code}\n" https://api.anthropic.com/v1/models \
-H "x-api-key: $ANTHROPIC_API_KEY" -H "anthropic-version: 2023-06-01"
回答品質はモデルよりもチャンク分割とメタデータで決まります。
DB を域内に置くのは有効ですが、LLM API に送ったテキストはプロバイダー側で処理されるため、外に出るデータを最小化し記録しておく必要があります。
本記事は一般的な情報であり、法的助言ではありません。具体的な義務は専門家にご確認ください。
ベクトル件数と同時アクセス数で構成を決め、顧客に最も近い拠点を選びます。
シンガポールのサーバーや RAM/ディスクのカスタム構成は IMIDC 営業が対応します。他社からの移行には無料のサーバー移行サービスもご利用いただけます。
IMIDC は東京とシンガポールで現地ネイティブ IP 付きの専用サーバーを提供しており、どちらも OpenAI・Claude・Gemini API の公式提供地域です。ベクトル DB とドキュメントを自社ハードウェアに置き、固定月額で運用できます。
OpenAI・Claude・Gemini API を使う場合はできません。これらは香港、中国本土、ロシアでは公式に提供されていません。API ベースの AI 用途には東京・シンガポール・台北・ロサンゼルスを選んでください。
1536 次元ベクトル 100 万件あたり約 6 GB(インデックス別)なので、HNSW や他のコンポーネントを含め 2 倍程度を見込みます。Qdrant のスカラー量子化を使えばベクトルのメモリを約 4 分の 1 にできます。
設置場所だけで準拠にはなりません。域内保存は管理を簡単にしますが、利用目的の特定、通知、API 事業者へ送るデータの安全管理措置が必要です。本記事は法的助言ではありません。
サポート用ナレッジベースの構築を始めませんか。東京の専用サーバー、台北の専用サーバー、ロサンゼルスの専用サーバーを比較いただくか、シンガポールや大容量メモリ構成は IMIDC 営業へお問い合わせください。既存のお客様は チケット でサイジングのご相談も可能です。