DeepTutor ナレッジ ベースと RAG 構成: ドキュメントのインポート、埋め込み、メモリ監査とバックアップ

DeepTutor ナレッジ ベースと RAG 構成: ドキュメントのインポート、埋め込み、メモリの監査とバックアップ、構成、検証、権限の境界、フェイルバック、長期メンテナンスをカバーします。

DeepTutor によるこのチュートリアルは、タイトルにある特定のタスクのみを扱います。ナレッジ ベースの品質は、ドキュメントのクリーニング、埋め込みの一貫性、および参照レビューに依存します。 DeepTutor の設定、ログ、メモリ、ナレッジ ベースはデフォルトでワークスペースのデータ ディレクトリに配置され、データのライフ サイクルを最初に明確に設計する必要があります。

以下のすべての操作は、最初に、ループバックアドレスのみでリッスンするテストリポジトリ、テスト アカウント、またはサービスに配置されます。コマンド内のドメイン名、ユーザー名、パス、およびキーはプレースホルダーであるため、実行前に置き換える必要があります。

まず DeepTutor ワークスペースの位置を修正します

このセクションでは、「まず DeepTutor ワークスペースの位置を固定する」という問題を解決します。まず現在の状態を記録し、次に最小限のアクションを実行し、最後に独立した証拠で結果を確認します。

DeepTutor の場合、判断基準は次のとおりです。ナレッジ ベースの品質は、ドキュメントのクリーニング、埋め込みの一貫性、および参照レビューに依存します。 DeepTutor の設定、ログ、メモリ、ナレッジ ベースはデフォルトでワークスペースのデータ ディレクトリに配置され、データのライフ サイクルを最初に明確に設計する必要があります。この段階で誤ってさらに許可を開かないでください。

1
$env:DEEPTUTOR_HOME='D:\deeptutor-data'

実行後にコマンド出力とタイムスタンプを保持します。出力が現在のターミナルの一時変数に依存している場合は、新しいターミナルを開いて再度確認してください。

モデルと埋め込みは 2 セットの構成です

次の順序で処理します。

  1. 実際のバージョンと現在の構成を読み取ります。
  2. このセクションに関連する設定を 1 つだけ変更します。
  3. 読み取り専用または取り消し可能なリクエストを実行します。
  4. ログ、終了コード、および最終ファイルを確認します。
  5. 失敗した場合は、以前の変更を元に戻します。
1
deeptutor init

ここでの完成基準はインターフェイスの外観ではなく、再現可能な結果を伴う「モデルとエンベディングの 2 セットの構成」です。

インポートする前に PDF と Markdown をクリーンアップする

何を確認するか 許容可能なパフォーマンス 停止する必要がある信号
インポート前に PDF と Markdown をクリーンアップする 入出力スコープをクリアする 他のプロジェクトまたはアカウントに自動的に展開
権限 タスクを完了するために必要な権限のみを取得します 管理者権限またはフルキーが必要
ログ 見つけられなかったため、感度が解除されました トークン、Cookie、またはプライベート テキストが表示される
ロールバック 以前の状態に戻すことができます 変更は元に戻すことができず、バックアップはありません。
1
Get-ChildItem -Recurse .\documents

表に停止信号が表示されたら、まずこのセクションの変更を元に戻し、後続の自動化を続行しないでください。

ナレッジ ベースをすべて混合するのではなく、トピックごとに分割する

「知識ベースをすべて混ぜ合わせるのではなく、トピックごとに分割する」ことを中心に、成功サンプルと失敗サンプルを準備します。成功したサンプルでは通常のパスが検証され、失敗したサンプルでは制限が実際に有効かどうかが検証されます。

1
deeptutor start

以下の4項目を記録することをお勧めします。

  • 実行前バージョンまたは Git コミット。
  • 実際の入力。秘密の値は記録されません。
  • 観察可能な出力、ステータス コード、または差分。
  • 回復アクションと回復後の結果の確認。

失敗の原因がまだ不明な場合は、一度に 1 つの変数のみを変更してください。ポート、ランタイム、プロバイダー、およびプロキシを同時に変更しないでください。

最初のインデックス作成後に 3 種類の取得テストを実行します

このセクションでは、「最初のインデックスの後に 3 種類の検索テストを実行する」という問題を解決します。まず現在の状態を記録し、次に最小限のアクションを実行し、最後に独立した証拠で結果を確認します。

DeepTutor の場合、判断基準は次のとおりです。ナレッジ ベースの品質は、ドキュメントのクリーニング、埋め込みの一貫性、および参照レビューに依存します。 DeepTutor の設定、ログ、メモリ、ナレッジ ベースはデフォルトでワークスペースのデータ ディレクトリに配置され、データのライフ サイクルを最初に明確に設計する必要があります。この段階で誤ってさらに許可を開かないでください。

1
curl.exe http://127.0.0.1:3782

実行後にコマンド出力とタイムスタンプを保持します。出力が現在のターミナルの一時変数に依存している場合は、新しいターミナルを開いて再度確認してください。

回答には検討可能な証拠を示す必要があります

次の順序で処理します。

  1. 実際のバージョンと現在の構成を読み取ります。
  2. このセクションに関連する設定を 1 つだけ変更します。
  3. 読み取り専用または取り消し可能なリクエストを実行します。
  4. ログ、終了コード、および最終ファイルを確認します。
  5. 失敗した場合は、以前の変更を元に戻します。
1
deeptutor start

ここでの完了基準は、インターフェイスが表示されることではなく、「回答は検討できる証拠を示し、再現可能な結果が得られること」です。

L1、L2、L3 メモリはそれぞれ何をチェックしますか?

何を確認するか 許容可能なパフォーマンス 停止する必要がある信号
L1、L2、L3 はそれぞれチェックすべき内容を記憶します 入力範囲と出力範囲が明確です 他のプロジェクトまたはアカウントに自動的に展開
権限 タスクを完了するために必要な権限のみを取得します 管理者権限またはフルキーが必要
ログ 見つけられなかったため、感度が解除されました トークン、Cookie、またはプライベート テキストが表示される
ロールバック 以前の状態に戻すことができます 変更は元に戻すことができず、バックアップはありません。
1
Get-ChildItem -Recurse $env:DEEPTUTOR_HOME

表に停止信号が表示されたら、まずこのセクションの変更を元に戻し、後続の自動化を続行しないでください。

間違ったメモリを追加するのではなく修正する

「追記し続けるのではなく、誤った記憶を修正する」ことを軸に、成功サンプルと失敗サンプルを用意します。成功したサンプルでは通常のパスが検証され、失敗したサンプルでは制限が実際に有効かどうかが検証されます。

1
Get-ChildItem -Recurse $env:DEEPTUTOR_HOME | Sort-Object LastWriteTime -Descending | Select-Object -First 20

以下の4項目を記録することをお勧めします。

  • 実行前バージョンまたは Git コミット。
  • 実際の入力。秘密の値は記録されません。
  • 観察可能な出力、ステータス コード、または差分。
  • 回復アクションと回復後の結果の確認。

失敗の原因がまだ不明な場合は、一度に 1 つの変数のみを変更してください。ポート、ランタイム、プロバイダー、およびプロキシを同時に変更しないでください。

Docker ボリュームには実際にどのようなデータが保存されますか?

このセクションでは、「Docker ボリュームに実際にどのようなデータが保持されているか」について説明します。まず現在の状態を記録し、次に最小限のアクションを実行し、最後に独立した証拠で結果を確認します。

DeepTutor の場合、判断基準は次のとおりです。ナレッジ ベースの品質は、ドキュメントのクリーニング、埋め込みの一貫性、および参照レビューに依存します。 DeepTutor の設定、ログ、メモリ、ナレッジ ベースはデフォルトでワークスペースのデータ ディレクトリに配置され、データのライフ サイクルを最初に明確に設計する必要があります。この段階で誤ってさらに許可を開かないでください。

1
docker volume inspect deeptutor-data

実行後にコマンド出力とタイムスタンプを保持します。出力が現在のターミナルの一時変数に依存している場合は、新しいターミナルを開いて再度確認してください。

埋め込みモデルを置き換えるときに再構築する必要があるのはなぜですか?

次の順序で処理します。

  1. 実際のバージョンと現在の構成を読み取ります。
  2. このセクションに関連する設定を 1 つだけ変更します。
  3. 読み取り専用または取り消し可能なリクエストを実行します。
  4. ログ、終了コード、および最終ファイルを確認します。
  5. 失敗した場合は、以前の変更を元に戻します。
1
docker stop deeptutor

ここでの完成基準はインターフェースの見た目ではなく、「なぜEmbeddingモデルを置き換える際に再構築する必要があるのか?」という再現性のある結果です。

完全なナレッジ ベースのバックアップと復元

何を確認するか 許容可能なパフォーマンス 停止する必要がある信号
完全なナレッジ ベースを一度にバックアップおよび復元する 入出力スコープをクリアする 他のプロジェクトまたはアカウントに自動的に展開
権限 タスクを完了するために必要な権限のみを取得します 管理者権限またはフルキーが必要
ログ 見つけられなかったため、感度が解除されました トークン、Cookie、またはプライベート テキストが表示される
ロールバック 以前の状態に戻すことができます 変更は元に戻すことができず、バックアップはありません。
1
docker run --rm -v deeptutor-data:/data -v ${PWD}:/backup alpine tar czf /backup/deeptutor-data.tgz -C /data .

表に停止信号が表示されたら、まずこのセクションの変更を元に戻し、後続の自動化を続行しないでください。

長期保守のためのサンプリング評価方法

「長期保守のためのサンプリング評価方法」を中心に成功サンプルと失敗サンプルを用意します。成功したサンプルでは通常のパスが検証され、失敗したサンプルでは制限が実際に有効かどうかが検証されます。

1
deeptutor start

以下の4項目を記録することをお勧めします。

  • 実行前バージョンまたは Git コミット。
  • 実際の入力。秘密の値は記録されません。
  • 観察可能な出力、ステータス コード、または差分。
  • 回復アクションと回復後の結果の確認。

失敗の原因がまだ不明な場合は、一度に 1 つの変数のみを変更してください。ポート、ランタイム、プロバイダー、およびプロキシを同時に変更しないでください。

スキャン OCR エラーが取得に与える影響

このセクションでは、「スキャンされた OCR エラーが取得に与える影響」について説明します。まず現在の状態を記録し、次に最小限のアクションを実行し、最後に独立した証拠で結果を確認します。

DeepTutor の場合、判断基準は次のとおりです。ナレッジ ベースの品質は、ドキュメントのクリーニング、埋め込みの一貫性、および参照レビューに依存します。 DeepTutor の設定、ログ、メモリ、ナレッジ ベースはデフォルトでワークスペースのデータ ディレクトリに配置され、データのライフ サイクルを最初に明確に設計する必要があります。この段階で誤ってさらに許可を開かないでください。

1
Get-ChildItem -Recurse .\documents

実行後にコマンド出力とタイムスタンプを保持します。出力が現在のターミナルの一時変数に依存している場合は、新しいターミナルを開いて再度確認してください。

中国語と英語の資料が共有されているかどうか

次の順序で処理します。

  1. 実際のバージョンと現在の構成を読み取ります。
  2. このセクションに関連する設定を 1 つだけ変更します。
  3. 読み取り専用または取り消し可能なリクエストを実行します。
  4. ログ、終了コード、および最終ファイルを確認します。
  5. 失敗した場合は、以前の変更を元に戻します。
1
deeptutor init

ここでの完成基準はインターフェースの見た目ではなく、「中国語と英語の素材がEmbeddingを共有しているかどうか」という再現性のある結果です。

ドキュメント削除後のインデックスの残り

何を確認するか 許容可能なパフォーマンス 停止する必要がある信号
ドキュメントを削除した後のインデックスの残り 入出力スコープをクリアする 他のプロジェクトまたはアカウントに自動的に展開
権限 タスクを完了するために必要な権限のみを取得します 管理者権限またはフルキーが必要
ログ 見つけられなかったため、感度が解除されました トークン、Cookie、またはプライベート テキストが表示される
ロールバック 以前の状態に戻すことができます 変更は元に戻すことができず、バックアップはありません。
1
Get-ChildItem -Recurse $env:DEEPTUTOR_HOME

表に停止信号が表示されたら、まずこのセクションの変更を元に戻し、後続の自動化を続行しないでください。

新しいワークスペースに復元する

「全く新しいワークスペースへの復元」を中心に成功サンプルと失敗サンプルを用意します。成功したサンプルでは通常のパスが検証され、失敗したサンプルでは制限が実際に有効かどうかが検証されます。

1
2
$env:DEEPTUTOR_HOME='D:\deeptutor-restore'
deeptutor start

以下の4項目を記録することをお勧めします。

  • 実行前バージョンまたは Git コミット。
  • 実際の入力。秘密の値は記録されません。
  • 観察可能な出力、ステータス コード、または差分。
  • 回復アクションと回復後の結果の確認。

失敗の原因がまだ不明な場合は、一度に 1 つの変数のみを変更してください。ポート、ランタイム、プロバイダー、およびプロキシを同時に変更しないでください。

DeepTutor FAQ

テスト環境をスキップして、DeepTutor を公式プロジェクトで直接使用することは可能ですか?

お勧めしません。まず、少なくとも 1 つの最小限の成功リクエスト、1 つの意図的な失敗、および 1 つの回復訓練を完了します。

DeepTutor コマンドは実行できますが、結果が正しくありません。最初にどこを確認すればよいですか?

まず入力範囲、実際の有効構成、および上流の応答を確認し、次にモデルの概要を確認します。プロセスが正常であっても、ビジネス結果が正しいとは限りません。

DeepTutor のキーまたはトークンが Git に入るのを防ぐにはどうすればよいですか?

システム環境変数、シークレット管理、またはプロジェクト外部の構成ファイルを使用し、コミットする前に差分を検索します。侵害が発見された後は、キーをローテーションする必要があります。

DeepTutor をアップグレードするときに見逃される可能性が最も高いものは何ですか?

最も見逃しやすいのは、構成形式、デフォルトのリスニング アドレス、アクセス許可の範囲、キャッシュの互換性です。アップグレードする前に、バージョンと検証サンプルを保存してください。

DeepTutor の受け入れに関する問題

完了すると、次の質問に答えられるようになります。

  • 正確にどのバージョンを使用していますか?
  • どのディレクトリ、ポート、アカウント、外部サービスにアクセスできますか?
  • 成功結果を元のデータまたは Git diff に戻すにはどうすればよいですか?
  • アップストリームに障害が発生した場合、エラーが報告されるか、再試行されるか、または切り替えられますか?
  • キーがログまたは履歴に表示される可能性はありますか?
  • 10分以内に修正前の状態に戻すにはどうすればよいですか?

これらのいずれかに答えられない場合、DeepTutor はまだ試用版の状態にあるため、権限を拡張したり、運用自動化に接続したりしないでください。