ಲಾಭಗಳು:
- RAG ಮಾದರಿಯ ತೂಕವನ್ನು ಬದಲಾಯಿಸದೆ ಸಂದರ್ಭವನ್ನು ಚುಚ್ಚುತ್ತದೆ ಮತ್ತು 'ಓಪನ್ ಬುಕ್ ಎಕ್ಸಾಮ್' ತರ್ಕದೊಂದಿಗೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ ಎಂದು ವಿವರಿಸುತ್ತದೆ
- ವೆಚ್ಚ, ಸಮಯೋಚಿತತೆ ಮತ್ತು ಬಳಕೆಯ ಸನ್ನಿವೇಶಕ್ಕೆ ಅನುಗುಣವಾಗಿ ಉತ್ತಮ-ಶ್ರುತಿ ಮತ್ತು ದೀರ್ಘ ಸಂದರ್ಭದ ವಿಧಾನಗಳೊಂದಿಗೆ RAG ಅನ್ನು ಹೋಲಿಸುವುದು
- ಇಂಡೆಕ್ಸಿಂಗ್ ಮತ್ತು ಪ್ರಶ್ನೆ ಹಂತಗಳನ್ನು ಒಳಗೊಂಡಿರುವ ವಿಶಿಷ್ಟ RAG ಪೈಪ್ಲೈನ್ನ ಹಂತಗಳನ್ನು ಪಟ್ಟಿ ಮಾಡುವುದು
ಭಾಷಾ ಮಾದರಿಯು ಎಷ್ಟೇ ಶಕ್ತಿಯುತವಾಗಿದ್ದರೂ (ಪಠ್ಯವನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳುವ ಮತ್ತು ಉತ್ಪಾದಿಸುವ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ; ನಾವು ಇನ್ನು ಮುಂದೆ ಅದನ್ನು ಮಾದರಿ ಎಂದು ಕರೆಯುತ್ತೇವೆ) ಅದು ನಿಮ್ಮ ಕಂಪನಿ ನಿನ್ನೆ ಸಹಿ ಮಾಡಿದ ಒಪ್ಪಂದ, ನಿಮ್ಮ ಆಂತರಿಕ ವಿಕಿ (ಆಂತರಿಕ ಜ್ಞಾನದ ಮೂಲ) ಪುಟ ಅಥವಾ ಇಂದು ಬೆಳಿಗ್ಗೆ ಪ್ರಕಟವಾದ ಬಿಡುಗಡೆ ಟಿಪ್ಪಣಿ ತಿಳಿದಿಲ್ಲ. ಮಾದರಿಯು ತರಬೇತಿ ಪಡೆದ ದಿನಾಂಕದವರೆಗೆ ಸಾಮಾನ್ಯ ಜ್ಞಾನಕ್ಕೆ ಸೀಮಿತವಾಗಿದೆ; ಇದನ್ನು "ಶಿಕ್ಷಣ ಕಟ್-ಆಫ್ ದಿನಾಂಕ" ಎಂದು ಕರೆಯಲಾಗುತ್ತದೆ. RAG (ಮರುಪಡೆಯುವಿಕೆ-ವರ್ಧಿತ ಜನರೇಷನ್) ನಿಖರವಾಗಿ ಈ ಅಂತರವನ್ನು ತುಂಬುತ್ತದೆ: ಇದು ಪ್ರಶ್ನೆಗೆ ಸಂಬಂಧಿಸಿದ ಕಂಪನಿಯ ದಾಖಲೆಗಳನ್ನು ಕಂಡುಕೊಳ್ಳುತ್ತದೆ, ಅದನ್ನು ಮಾದರಿಗೆ ಸಂದರ್ಭವಾಗಿ ನೀಡುತ್ತದೆ (ಅಂದರೆ, ಉತ್ತರವನ್ನು ಉತ್ಪಾದಿಸುವಾಗ ಅದು ಓದುವ ಹೆಚ್ಚುವರಿ ಪಠ್ಯ) ಮತ್ತು ಈ ಸಂದರ್ಭವನ್ನು ಆಧರಿಸಿ ಉತ್ತರವನ್ನು ಉತ್ಪಾದಿಸುತ್ತದೆ.
ಈ ಘಟಕದಲ್ಲಿ, RAG ಎಂದರೇನು, ಯಾವ ಪರ್ಯಾಯಗಳಿಗೆ ಆದ್ಯತೆ ನೀಡಿದಾಗ ಮತ್ತು ವಿಶಿಷ್ಟವಾದ RAG ಪೈಪ್ಲೈನ್ನ ಹಂತಗಳನ್ನು ನಾವು ಸ್ಪಷ್ಟವಾಗಿ ನೋಡುತ್ತೇವೆ. ಎಲ್ಲಾ ನಂತರದ ಘಟಕಗಳು ಈ ನಕ್ಷೆಯ ಭಾಗಗಳನ್ನು ಒಂದೊಂದಾಗಿ ಆಳಗೊಳಿಸುತ್ತವೆ.
RAG ನ ಮೂಲ ಕಲ್ಪನೆ: ಓಪನ್ ಬುಕ್ ಪರೀಕ್ಷೆ
RAG ಅನ್ನು ಒಂದು ವಾಕ್ಯದಲ್ಲಿ ವಿವರಿಸೋಣ: "ಮೊದಲು ಸಂಬಂಧಿತ ಡಾಕ್ಯುಮೆಂಟ್ ಅನ್ನು ಕಂಡುಹಿಡಿಯಿರಿ, ನಂತರ ಮಾದರಿಯು ಆ ದಾಖಲೆಯನ್ನು ಓದುವಂತೆ ಮಾಡಿ ಮತ್ತು ಅದಕ್ಕೆ ಅನುಗುಣವಾಗಿ ಉತ್ತರವನ್ನು ಮುದ್ರಿಸಿ."
ಅತ್ಯಂತ ಉಪಯುಕ್ತವಾದ ಸಾದೃಶ್ಯವೆಂದರೆ ಇದು: RAG ಮಾದರಿಯನ್ನು "ಮುಚ್ಚಿದ ಪುಸ್ತಕ ಪರೀಕ್ಷೆ" ಯಿಂದ "ತೆರೆದ ಪುಸ್ತಕ ಪರೀಕ್ಷೆ" ಗೆ ಚಲಿಸುತ್ತದೆ. ಮುಚ್ಚಿದ ಪುಸ್ತಕ ಪರೀಕ್ಷೆಯಲ್ಲಿ, ವಿದ್ಯಾರ್ಥಿಯು ಸ್ಮರಣೆಯಿಂದ ಮಾತ್ರ ಉತ್ತರಿಸುತ್ತಾನೆ; ನಿಮಗೆ ನೆನಪಿಲ್ಲದ ಸಂಗತಿಗಳನ್ನು ರೂಪಿಸುವ ಹೆಚ್ಚಿನ ಅಪಾಯವಿದೆ. ತೆರೆದ ಪುಸ್ತಕ ಪರೀಕ್ಷೆಯಲ್ಲಿ, ವಿದ್ಯಾರ್ಥಿಯು ತನ್ನ ಮುಂದೆ ಇಟ್ಟಿರುವ ಮೂಲವನ್ನು ನೋಡುವ ಮೂಲಕ ಉತ್ತರಿಸುತ್ತಾನೆ. RAG ನಲ್ಲಿ, ಮಾದರಿಯು ಇನ್ನು ಮುಂದೆ ಅದರ ಸ್ವಂತ ಸ್ಮರಣೆಯಿಂದ ಉತ್ತರಿಸುವುದಿಲ್ಲ, ಆದರೆ ನೀವು ನೀಡುವ ಪ್ರಸ್ತುತ ಮತ್ತು ನಿರ್ದಿಷ್ಟ ಪಠ್ಯದಿಂದ.
ನಿರ್ಣಾಯಕ ಅಂಶ: RAG ಮಾದರಿಯ ತೂಕವನ್ನು ಬದಲಾಯಿಸುವುದಿಲ್ಲ, ಅಂದರೆ, ಮಾದರಿ ಕಲಿತ ಶತಕೋಟಿ ಸಂಖ್ಯಾತ್ಮಕ ನಿಯತಾಂಕಗಳು. ನೀವು ಮಾದರಿಯನ್ನು ಮರುತರಬೇತಿಗೊಳಿಸುವುದಿಲ್ಲ. ಪ್ರತಿ ಪ್ರಶ್ನೆಗೆ, ನೀವು ಆ ಪ್ರಶ್ನೆಗೆ ಸಂಬಂಧಿಸಿದ ಪಠ್ಯದ ಭಾಗಗಳನ್ನು ಪ್ರಾಂಪ್ಟ್ಗೆ ಇಂಜೆಕ್ಟ್ ಮಾಡುತ್ತೀರಿ (ಮಾದರಿಗೆ ಸೂಚನೆ ಪಠ್ಯವನ್ನು ಕಳುಹಿಸಲಾಗಿದೆ). ಆದ್ದರಿಂದ ಡಾಕ್ಯುಮೆಂಟ್ ಅನ್ನು ನವೀಕರಿಸಿದಾಗ ನೀವು ಮಾದರಿಯನ್ನು ಮರುತರಬೇತಿ ಮಾಡಬೇಕಾಗಿಲ್ಲ; ನೀವು ಹುಡುಕಾಟ ಡೇಟಾಬೇಸ್ನಲ್ಲಿ ಸಂಬಂಧಿತ ದಾಖಲೆಯನ್ನು ರಿಫ್ರೆಶ್ ಮಾಡಿ.
ಸುಳಿವು: ಎರಡು ಪ್ರಶ್ನೆಗಳು RAG ನ ಗುಣಮಟ್ಟವನ್ನು ನಿರ್ಧರಿಸುತ್ತವೆ: (1) ನೀವು ಸರಿಯಾದ ದಾಖಲೆಯನ್ನು ಕಂಡುಕೊಂಡಿದ್ದೀರಾ? (2) ಮಾದರಿ ಅದನ್ನು ಸರಿಯಾಗಿ ಓದಿದೆಯೇ? ಮೊದಲನೆಯದು "ಮರುಪಡೆಯುವ ಗುಣಮಟ್ಟ", ಎರಡನೆಯದು "ಪೀಳಿಗೆಯ ಗುಣಮಟ್ಟ". ಇವೆರಡನ್ನು ಪ್ರತ್ಯೇಕವಾಗಿ ಅಳೆಯಲಾಗುತ್ತದೆ ಮತ್ತು ಸುಧಾರಿಸಲಾಗುತ್ತದೆ.
RAG, ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಅಥವಾ ದೀರ್ಘ ಸಂದರ್ಭವೇ?
ಸಾಂಸ್ಥಿಕ ಸಮಸ್ಯೆಗೆ ಪರಿಹಾರವನ್ನು ಹುಡುಕುವಾಗ ಮೂರು ಮಾರ್ಗಗಳು ಹೆಚ್ಚಾಗಿ ಗೊಂದಲಕ್ಕೊಳಗಾಗುತ್ತವೆ. ಅವರ ವ್ಯತ್ಯಾಸಗಳನ್ನು ಸ್ಪಷ್ಟಪಡಿಸೋಣ. ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ನಿಮ್ಮ ಡೇಟಾದೊಂದಿಗೆ ಮಾದರಿಯ ತೂಕವನ್ನು ನವೀಕರಿಸುತ್ತದೆ ಮತ್ತು ಅದಕ್ಕೆ ಹೊಸ ನಡವಳಿಕೆ/ಶೈಲಿಯನ್ನು ಕಲಿಸುತ್ತದೆ. ದೀರ್ಘ ಸಂದರ್ಭ ಎಂದರೆ ಯಾವುದೇ ಆಯ್ಕೆಯಿಲ್ಲದೆ ನೇರವಾಗಿ ಪ್ರಾಂಪ್ಟ್ನಲ್ಲಿ ಎಲ್ಲಾ ದಾಖಲೆಗಳನ್ನು ಭರ್ತಿ ಮಾಡುವುದು.
ಅಪ್ರೋಚ್
ಏನು ಮಾಡುತ್ತದೆ
ಅದು ಯಾವಾಗ ಸೂಕ್ತ?
ವೆಚ್ಚ / ಅಪಾಯ
ರಾಗ್
ಸಂಬಂಧಿತ ಡಾಕ್ಯುಮೆಂಟ್ ಅನ್ನು ಸಂದರ್ಭವಾಗಿ ಚುಚ್ಚುತ್ತದೆ
ಆಗಾಗ್ಗೆ ಬದಲಾಗುತ್ತಿರುವ, ವ್ಯಾಪಕವಾದ, ನಿರ್ದಿಷ್ಟ ಮಾಹಿತಿ
ಕಡಿಮೆ; ನವೀಕರಿಸಲು ಸುಲಭ, ಮೂಲವನ್ನು ಉಲ್ಲೇಖಿಸಬಹುದು
ಫೈನ್-ಟ್ಯೂನಿಂಗ್
ಹೊಸ ಡೇಟಾದೊಂದಿಗೆ ತೂಕವನ್ನು ನವೀಕರಿಸುತ್ತದೆ
ಸ್ಥಿರ ಶೈಲಿ/ಸ್ವರೂಪ/ಭಾಷೆ ಬೋಧನೆ
ಹೆಚ್ಚು; ಪ್ರತಿ ನವೀಕರಣದೊಂದಿಗೆ ಮರುತರಬೇತಿ ಅಗತ್ಯವಿದೆ
ದೀರ್ಘ ಸಂದರ್ಭ ಮಾತ್ರ
ಪ್ರಾಂಪ್ಟಿನಲ್ಲಿ ಎಲ್ಲಾ ದಾಖಲೆಗಳನ್ನು ತುಂಬುತ್ತದೆ
ಸಣ್ಣ, ಸ್ಥಾಯಿ ದಾಖಲೆ ಸೆಟ್
ಟೋಕನ್ ವೆಚ್ಚ ಮತ್ತು "ಮಧ್ಯ ಭಾಗವನ್ನು ಕಳೆದುಕೊಳ್ಳುವ" ಅಪಾಯ ಹೆಚ್ಚಾಗುತ್ತದೆ
ನಿಯಮದಂತೆ: ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಮಾತನಾಡಲು ಹೇಗೆ ಮಾದರಿಯನ್ನು ಕಲಿಸುತ್ತದೆ; RAG ಮಾಡೆಲ್ಗೆ ಏನು ತಿಳಿಯಬೇಕೆಂದು ಹೇಳುತ್ತದೆ. ಹೆಚ್ಚಿನ ಎಂಟರ್ಪ್ರೈಸ್ ಸನ್ನಿವೇಶಗಳಲ್ಲಿ, RAG ಅನ್ನು ಮೊದಲು ಪ್ರಯತ್ನಿಸಲಾಗುತ್ತದೆ ಏಕೆಂದರೆ ಅದು ಅಗ್ಗದ, ನವೀಕರಿಸಬಹುದಾದ ಮತ್ತು ಉತ್ತರದ ಮೂಲವನ್ನು ತೋರಿಸುತ್ತದೆ. ಡಾಕ್ಯುಮೆಂಟ್ ಸೆಟ್ ನಿಜವಾಗಿಯೂ ಚಿಕ್ಕದಾಗಿದ್ದರೆ ಮತ್ತು ಸ್ಥಿರವಾಗಿದ್ದರೆ ದೀರ್ಘ ಸಂದರ್ಭವು ಸಮಂಜಸವಾಗಿದೆ (ಉದಾ. ಒಂದೇ 20-ಪುಟದ ಕೈಪಿಡಿ); ಆದರೆ ಸಾವಿರಾರು ಪುಟಗಳೊಂದಿಗೆ, ಇದು ದುಬಾರಿಯಾಗಿದೆ ಮತ್ತು ಮಾದರಿಯು ದೀರ್ಘ ಪಠ್ಯದ ಮಧ್ಯದಲ್ಲಿ ಮಾಹಿತಿಯನ್ನು ಕಳೆದುಕೊಳ್ಳಬಹುದು.
ಒಂದು ವಿಶಿಷ್ಟವಾದ RAG ಪೈಪ್ಲೈನ್
RAG ಎರಡು ಮುಖ್ಯ ಹಂತಗಳನ್ನು ಒಳಗೊಂಡಿದೆ: ಇಂಡೆಕ್ಸಿಂಗ್ (ತಯಾರಿಕೆ, ಒಮ್ಮೆ ಅಥವಾ ನಿಯತಕಾಲಿಕವಾಗಿ ಮಾಡಲಾಗುತ್ತದೆ) ಮತ್ತು ಪ್ರಶ್ನಿಸುವುದು (ಪ್ರತಿ ಬಳಕೆದಾರರ ಪ್ರಶ್ನೆಯ ಮೇಲೆ ಚಲಿಸುತ್ತದೆ).
ಹಂತ ಹಂತದ ಸೂಚಿಕೆ (ಆಫ್ಲೈನ್, ಬಳಕೆದಾರರ ಕಾಯುವಿಕೆ ಇಲ್ಲದೆ):
- ಸಂಗ್ರಹಿಸಿ: ಮೂಲಗಳಿಂದ ದಾಖಲೆಗಳನ್ನು ಎಳೆಯಿರಿ (ಪಿಡಿಎಫ್, ವಿಕಿ, ಟಿಕೆಟ್ ವ್ಯವಸ್ಥೆ, ಡೇಟಾಬೇಸ್, ಇಮೇಲ್).
- ಚುಂಕಿಂಗ್: ದೀರ್ಘ ಪಠ್ಯವನ್ನು ಸಣ್ಣ ನಿರ್ವಹಿಸಬಹುದಾದ ತುಣುಕುಗಳಾಗಿ ಒಡೆಯಿರಿ.
- ಎಂಬೆಡ್: ಪ್ರತಿ ಭಾಗವನ್ನು ಎಂಬೆಡಿಂಗ್ ಆಗಿ ಪರಿವರ್ತಿಸಿ (ಪಠ್ಯದ ಅರ್ಥವನ್ನು ಹೊಂದಿರುವ ಸಂಖ್ಯೆ ವೆಕ್ಟರ್).
- ಉಳಿಸಿ: ವೆಕ್ಟರ್ ಡೇಟಾಬೇಸ್ಗೆ ಪಠ್ಯ ಮತ್ತು ಮೆಟಾಡೇಟಾ (ಮೂಲ, ದಿನಾಂಕ, ಅಧಿಕೃತ ಮಾಹಿತಿ) ಜೊತೆಗೆ ವೆಕ್ಟರ್ಗಳನ್ನು ಬರೆಯಿರಿ.
ಹಂತ-ಹಂತದ ಪ್ರಶ್ನೆ (ಆನ್ಲೈನ್, ಬಳಕೆದಾರರು ಕಾಯುತ್ತಿರುವಾಗ):
- ಬಳಕೆದಾರರ ಪ್ರಶ್ನೆಯನ್ನು ಎಂಬೆಡಿಂಗ್ಗೆ ಪರಿವರ್ತಿಸಿ.
- ವೆಕ್ಟರ್ ಡೇಟಾಬೇಸ್ನಿಂದ ಒಂದೇ ರೀತಿಯ ಭಾಗಗಳನ್ನು ಹಿಂಪಡೆಯಿರಿ.
- ಈ ತುಣುಕುಗಳು + ಪ್ರಶ್ನೆಯನ್ನು ಪ್ರಾಂಪ್ಟ್ ಟೆಂಪ್ಲೇಟ್ನಲ್ಲಿ ಇರಿಸಿ.
- ಮಾದರಿಯಿಂದ ಸಂದರ್ಭೋಚಿತ ಉತ್ತರ ಮತ್ತು ಅದರ ಮೂಲಗಳನ್ನು ಪಡೆಯಿರಿ.
# ವಿಚಾರಣಾ ಹಂತದ ಪರಿಕಲ್ಪನಾ ರೂಪರೇಖೆ (ಭಾಷೆಯ ಮೇಲೆ ಅವಲಂಬಿತವಾಗಿಲ್ಲ)ಪ್ರಶ್ನೆ = "ವಾರ್ಷಿಕ ರಜೆ ಎಷ್ಟು ದಿನಗಳು?"question_vektor = ಎಂಬೆಡ್(ಪ್ರಶ್ನೆ)ಭಾಗಗಳು = vektor_db.search(question_vektor, top_k=4) # ಹೆಚ್ಚು ಸಮಾನ ಭಾಗಗಳು ಪ್ರಾಂಪ್ಟ್ = f"""ಈ ಪ್ರಶ್ನೆಗೆ ಉತ್ತರಿಸಿ Fitting.CONTEXT:{parts}QUESTION: {question}"""answer = model.uret(prompt) # ಉದಾ. ಮಾದರಿ: ಕ್ಲಾಡ್-ಓಪಸ್-4-8
ಈ ಹರಿವು ಪ್ರತಿ ಹಂತದ ನಕ್ಷೆಯಾಗಿದೆ, ಅದನ್ನು ನಾವು ನಂತರದ ಘಟಕಗಳಲ್ಲಿ ಒಂದೊಂದಾಗಿ ಅನ್ಪ್ಯಾಕ್ ಮಾಡುತ್ತೇವೆ.
ದುರ್ಬಲ ಪ್ರಾಂಪ್ಟ್ / ಬಲವಾದ ಪ್ರಾಂಪ್ಟ್
ಅದೇ RAG ಸಂದರ್ಭದೊಂದಿಗೆ ಸಹ, ಪ್ರಾಂಪ್ಟ್ನ ಗುಣಮಟ್ಟವು ಉತ್ತರವನ್ನು ಬದಲಾಯಿಸುತ್ತದೆ.
ದುರ್ಬಲ ಪ್ರಾಂಪ್ಟ್ (ಮಾದರಿ ಫಿಟ್ಟಿಂಗ್ಗೆ ತೆರೆದಿರುತ್ತದೆ, ಸಂಪನ್ಮೂಲಗಳ ಅಗತ್ಯವಿಲ್ಲ):
ಈ ಮಾಹಿತಿಯನ್ನು ಬಳಸಿ ಮತ್ತು ವಾರ್ಷಿಕ ರಜೆ ಹೇಳಿ: {parts}. ಪ್ರಶ್ನೆ: {question}
ಶಕ್ತಿಯುತ ಪ್ರಾಂಪ್ಟ್ (ಗ್ರೌಂಡಿಂಗ್ + "ನನಗೆ ಗೊತ್ತಿಲ್ಲ" ಅನುಮತಿ + ಸಂಪನ್ಮೂಲ ವಿನಂತಿ):
ಕೆಳಗಿನ ಸನ್ನಿವೇಶವನ್ನು ಆಧರಿಸಿ ಮಾತ್ರ ಉತ್ತರಿಸಿ. ಸಂದರ್ಭದಲ್ಲಿ ಯಾವುದೇ ಸ್ಪಷ್ಟ ಉತ್ತರವಿಲ್ಲದಿದ್ದರೆ, "ನಾನು ದಸ್ತಾವೇಜನ್ನು ಈ ಬಗ್ಗೆ ಮಾಹಿತಿಯನ್ನು ಕಂಡುಹಿಡಿಯಲಾಗಲಿಲ್ಲ" ಎಂದು ಬರೆಯಿರಿ; ಊಹೆ ಮಾಡಬೇಡಿ. ನಿಮ್ಮ ಉತ್ತರದ ಕೊನೆಯಲ್ಲಿ ನೀವು ಅವಲಂಬಿಸಿರುವ ತುಣುಕಿನ [ಮೂಲ: ಫೈಲ್_ಹೆಸರು] ಟ್ಯಾಗ್ ಅನ್ನು ಸೇರಿಸಿ. ಸನ್ನಿವೇಶ: {pieces} ಪ್ರಶ್ನೆ: {question}
ಮೂರು ಮಿನಿ ಪ್ರಕರಣಗಳು
ಪ್ರಕರಣ 1 - ಮಾನವ ಸಂಪನ್ಮೂಲ ಸಹಾಯಕ (ಮಾನವ ಸಂಪನ್ಮೂಲಗಳು). ಕಂಪನಿಯು 340-ಪುಟಗಳ ಮಾನವ ಸಂಪನ್ಮೂಲ ಕೈಪಿಡಿಯನ್ನು ಹೊಂದಿದೆ ಮತ್ತು ಉದ್ಯೋಗಿಗಳು ದಿನಕ್ಕೆ ಸರಾಸರಿ 90 ಪ್ರಶ್ನೆಗಳನ್ನು ಕೇಳುತ್ತಾರೆ. ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಅನ್ನು ಪ್ರಯತ್ನಿಸಲಾಯಿತು, ಆದರೆ ಕೈಪಿಡಿಯನ್ನು ಮಾಸಿಕವಾಗಿ ನವೀಕರಿಸಲಾಗಿರುವುದರಿಂದ, ಪ್ರತಿ ಬಾರಿಯೂ ಮರುತರಬೇತಿ ಅಗತ್ಯವಿದೆ; ವೆಚ್ಚವು ತಿಂಗಳಿಗೆ ಸಾವಿರಾರು ಡಾಲರ್ಗಳನ್ನು ತಲುಪಿತು. RAG ಗೆ ಬದಲಾಯಿಸಿದ ನಂತರ, ನವೀಕರಣವನ್ನು "ಡಾಕ್ಯುಮೆಂಟ್ ಅನ್ನು ಮರು-ಸೂಚ್ಯಂಕ" ಹಂತಕ್ಕೆ (ನಿಮಿಷಗಳು) ಕಡಿಮೆಗೊಳಿಸಲಾಯಿತು ಮತ್ತು ಹಸ್ತಚಾಲಿತ ಮಾಪನದಲ್ಲಿ ಸರಿಯಾದ-ಉತ್ತರ ದರವು 71% ರಿಂದ 93% ಕ್ಕೆ ಏರಿತು.
ಪ್ರಕರಣ 2 - ಗ್ರಾಹಕ ಬೆಂಬಲ. ಬೆಂಬಲ ತಂಡವು 12,000 ಪರಿಹರಿಸಿದ ಟಿಕೆಟ್ಗಳು ಮತ್ತು 800 ಸಹಾಯ ಲೇಖನಗಳನ್ನು ಹೊಂದಿದೆ. ಒಬ್ಬ ಪ್ರತಿನಿಧಿಗೆ ಹಸ್ತಚಾಲಿತವಾಗಿ ಉತ್ತರವನ್ನು ಹುಡುಕಲು ಇದು ಸರಾಸರಿ 4 ನಿಮಿಷಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳುತ್ತದೆ. RAG ಸಹಾಯಕ 5 ಅತ್ಯಂತ ಸೂಕ್ತವಾದ ದಾಖಲೆಗಳನ್ನು ತಂದಾಗ ಮತ್ತು ಕರಡು ಪ್ರತಿಕ್ರಿಯೆಯನ್ನು ತಯಾರಿಸಿದಾಗ, ಸಮಯವನ್ನು 40 ಸೆಕೆಂಡುಗಳಿಗೆ ಕಡಿಮೆಗೊಳಿಸಲಾಯಿತು; ಆದರೆ ತಂಡವು "ತಪ್ಪಾದ ಲೇಖನವನ್ನು ತರುವ ಮೂಲಕ ಖಚಿತವಾಗಿಲ್ಲದಿರುವಂತೆ ಕಾಣುವ" ಅಪಾಯವನ್ನು ಅರಿತುಕೊಂಡಿತು ಮತ್ತು ಮೂಲವನ್ನು ಕಡ್ಡಾಯವಾಗಿ ಉಲ್ಲೇಖಿಸಿತು.
ಪ್ರಕರಣ 3 - ಕಾನೂನು. ಗುತ್ತಿಗೆ ತಂಡವು "ಯಾವ ಒಪ್ಪಂದಗಳಲ್ಲಿ ಗೌಪ್ಯತೆಯ ಷರತ್ತು 5 ವರ್ಷಗಳವರೆಗೆ ಇರುತ್ತದೆ?" ಅವನು ಪ್ರಶ್ನೆ ಕೇಳುತ್ತಾನೆ. ದೀರ್ಘ ಸಂದರ್ಭದ ಪ್ರಯೋಗದಲ್ಲಿ, 60 ಒಪ್ಪಂದಗಳನ್ನು ಒಂದೇ ಪ್ರಾಂಪ್ಟ್ನಲ್ಲಿ ತುಂಬಲಾಯಿತು; ಮಾದರಿಯು ಮಧ್ಯದ ಎರಡು ಒಪ್ಪಂದಗಳನ್ನು ಬಿಟ್ಟುಬಿಟ್ಟಿತು. RAG ನೊಂದಿಗೆ ಸಂಬಂಧಿತ ಐಟಂಗಳನ್ನು ಮಾತ್ರ ಪರಿಚಯಿಸಿದಾಗ, ಟೋಕನ್ ವೆಚ್ಚವು 80% ರಷ್ಟು ಕಡಿಮೆಯಾಗಿದೆ ಮತ್ತು ಕಾಣೆಯಾದ ಸ್ಕಿಪ್ಪಿಂಗ್ ಅನ್ನು ಮರುಹೊಂದಿಸಲಾಗಿದೆ.
RAG ಏಕೆ ಬೇಕು?
- ಪ್ರಸ್ತುತತೆ: ತರಬೇತಿ ಕಟ್-ಆಫ್ ದಿನಾಂಕದ ನಂತರ ನೀವು ಮಾಹಿತಿಯನ್ನು ಪ್ರವೇಶಿಸುತ್ತೀರಿ.
- ವಿಶೇಷ ಮಾಹಿತಿ: ನಿಮ್ಮ ಆಂತರಿಕ ದಾಖಲೆಗಳನ್ನು ಯಾವುದೇ ಮಾದರಿಯ ತರಬೇತಿಯಲ್ಲಿ ಸೇರಿಸಲಾಗಿಲ್ಲ; ನೀವು ಮಾತ್ರ ನೀಡಬಹುದು.
- ಪರಿಶೀಲನೆ: ನೀವು ಉತ್ತರದ ಮೂಲವನ್ನು ಉಲ್ಲೇಖಿಸಬಹುದು (ಉಲ್ಲೇಖ) - ಲೆಕ್ಕಪರಿಶೋಧನೆ ಮತ್ತು ನಂಬಿಕೆಗೆ ಅತ್ಯಗತ್ಯ.
- ಭ್ರಮೆ ನಿಯಂತ್ರಣ: ಇದು ಮಾದರಿಯನ್ನು ರೂಪಿಸುವ ಬದಲು ಅದರ ಮುಂದೆ ಇರಿಸಲಾದ ಪಠ್ಯವನ್ನು ಅವಲಂಬಿಸಿದೆ.
- ವೆಚ್ಚ: ಫೈನ್-ಟ್ಯೂನಿಂಗ್ಗಿಂತ ಕಾರ್ಯಾಚರಣೆಗೆ ಹಾಕಲು ಇದು ತುಂಬಾ ಅಗ್ಗವಾಗಿದೆ ಮತ್ತು ವೇಗವಾಗಿರುತ್ತದೆ.
ಎಚ್ಚರಿಕೆ: RAG ಮ್ಯಾಜಿಕ್ ಅಲ್ಲ. ನೀವು ತಪ್ಪಾದ ತುಣುಕನ್ನು ತಂದರೆ, ಮಾದರಿಯು ತಪ್ಪು ಉತ್ತರವನ್ನು "ಆತ್ಮವಿಶ್ವಾಸದಿಂದ" ನೋಡುತ್ತದೆ. "ಮರುಪಡೆಯುವಿಕೆ ಗುಣಮಟ್ಟ = RAG ಗುಣಮಟ್ಟ" ಎಂಬ ಪದಗುಚ್ಛವನ್ನು ನೆನಪಿನಲ್ಲಿಡಿ.
ಸಾಮಾನ್ಯ ತಪ್ಪುಗಳು
- ಉತ್ತಮ-ಶ್ರುತಿಗಾಗಿ RAG ಅನ್ನು ತಪ್ಪಾಗಿ ಗ್ರಹಿಸುವುದು: RAG ತೂಕವನ್ನು ಬದಲಾಯಿಸುವುದಿಲ್ಲ; ಇದು ಕೇವಲ ಸಂದರ್ಭವನ್ನು ಸೇರಿಸುತ್ತದೆ. ಈ ಎರಡನ್ನು ಗೊಂದಲಗೊಳಿಸುವುದು ತಪ್ಪು ವಾಸ್ತುವನ್ನು ಆಯ್ಕೆ ಮಾಡಲು ಕಾರಣವಾಗುತ್ತದೆ.
- "ನನಗೆ ಗೊತ್ತಿಲ್ಲ" ಅನ್ನು ಅನುಮತಿಸುವುದಿಲ್ಲ: ಪ್ರಾಂಪ್ಟ್ ಮಾದರಿಯನ್ನು ಖಾಲಿ ತುಂಬಲು ಮುಕ್ತವಾಗಿ ಬಿಟ್ಟರೆ, ಅದು ಸರಿದೂಗಿಸುತ್ತದೆ.
- ಮೂಲಗಳನ್ನು ಉಲ್ಲೇಖಿಸುತ್ತಿಲ್ಲ: ಮೂಲವಿಲ್ಲದ ಉತ್ತರವನ್ನು ಪರಿಶೀಲಿಸಲಾಗುವುದಿಲ್ಲ; ಬಳಕೆದಾರರು ತಪ್ಪನ್ನು ಗಮನಿಸುವುದಿಲ್ಲ.
- ಎಲ್ಲವನ್ನೂ ಒಂದೇ ಪ್ರಾಂಪ್ಟ್ನಲ್ಲಿ ಕ್ರ್ಯಾಮ್ ಮಾಡುವುದು: ದೀರ್ಘ ಸಂದರ್ಭವು ಅಗ್ಗವಾಗಿ ಕಾಣುತ್ತದೆ ಆದರೆ ದುಬಾರಿಯಾಗಿದೆ ಮತ್ತು ಮಧ್ಯದ ಮಾಹಿತಿಯನ್ನು ತಪ್ಪಿಸುತ್ತದೆ.
- ಮರುಪಡೆಯುವಿಕೆಯನ್ನು ಅಳೆಯದೆ ಪೀಳಿಗೆಯಲ್ಲಿ ಸಿಲುಕಿಕೊಳ್ಳುವುದು: ಉತ್ತರವು ಕೆಟ್ಟದಾಗಿದ್ದರೆ, ಮೊದಲು "ಸರಿಯಾದ ಭಾಗವು ಬಂದಿತ್ತೇ?" ಎಂದು ಕೇಳಬೇಕು.
ಸಾರಾಂಶದಲ್ಲಿ
- RAG ಎನ್ನುವುದು ಮಾದರಿಯಲ್ಲಿ ಪ್ರಶ್ನೆಗೆ ಸಂಬಂಧಿಸಿದ ದಾಖಲೆಗಳನ್ನು ಸಂದರ್ಭಕ್ಕೆ ಒಳಪಡಿಸುವ ವಿಧಾನವಾಗಿದೆ; ತೂಕವನ್ನು ಬದಲಾಯಿಸುವುದಿಲ್ಲ ("ಮುಕ್ತ ಪುಸ್ತಕ ಪರೀಕ್ಷೆ").
- ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಶೈಲಿ/ಸ್ವರೂಪವನ್ನು ಕಲಿಸುತ್ತದೆ, RAG ಪ್ರಸ್ತುತ ಮತ್ತು ನಿರ್ದಿಷ್ಟ ಮಾಹಿತಿಯನ್ನು ನೀಡುತ್ತದೆ; ಸಣ್ಣ ಸ್ಥಿರ ಸೆಟ್ಗಳಿಗೆ ದೀರ್ಘ ಸಂದರ್ಭವು ಉತ್ತಮವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ. ಹೆಚ್ಚಿನ ಸನ್ನಿವೇಶಗಳಲ್ಲಿ, RAG ಅನ್ನು ಮೊದಲು ಪ್ರಯತ್ನಿಸಲಾಗುತ್ತದೆ.
- ಪೈಪ್ಲೈನ್ ಎರಡು ಹಂತಗಳನ್ನು ಹೊಂದಿದೆ: ಆಫ್ಲೈನ್ ಇಂಡೆಕ್ಸಿಂಗ್ (ಚಂಕ್ + ಎಂಬೆಡಿಂಗ್ + ಸೇವ್) ಮತ್ತು ಆನ್ಲೈನ್ ಕ್ವೆರಿಂಗ್ (ಮರುಪಡೆಯುವಿಕೆ + ಪ್ರಾಂಪ್ಟ್ + ಉತ್ಪಾದಿಸಿ).
- RAG ಸಮಯೋಚಿತತೆ, ನಿರ್ದಿಷ್ಟ ಮಾಹಿತಿ, ಪರಿಶೀಲನೆ, ಭ್ರಮೆ ನಿಯಂತ್ರಣ ಮತ್ತು ಕಡಿಮೆ ವೆಚ್ಚವನ್ನು ಒದಗಿಸುತ್ತದೆ.
- ಸಿಸ್ಟಮ್ನ ಗುಣಮಟ್ಟವು ನೇರವಾಗಿ ಮರುಪಡೆಯುವಿಕೆಯ ಗುಣಮಟ್ಟವನ್ನು ಅವಲಂಬಿಸಿರುತ್ತದೆ: ತಪ್ಪು ತುಣುಕು ಎಂದರೆ ತಪ್ಪು ಉತ್ತರ.
ಅಪ್ಲಿಕೇಶನ್ ಕಾರ್ಯ
ನಿಮ್ಮ ಸ್ವಂತ ತಂಡದಿಂದ ಮಾಹಿತಿಯ ನಿಜವಾದ ಮೂಲವನ್ನು ಆಯ್ಕೆಮಾಡಿ (ಉದಾ. ಕಾರ್ಯವಿಧಾನದ ದಾಖಲೆ ಅಥವಾ FAQ ಪುಟ). (1) ಈ ಮೂಲದ ಬಗ್ಗೆ 5 ವಾಸ್ತವಿಕ ಪ್ರಶ್ನೆಗಳನ್ನು ಬರೆಯಿರಿ. (2) ಡಾಕ್ಯುಮೆಂಟ್ನ ಯಾವ ಭಾಗವು ಪ್ರತಿ ಪ್ರಶ್ನೆಗೆ ಸರಿಯಾದ ಉತ್ತರವನ್ನು ಹೊಂದಿದೆ ಎಂಬುದನ್ನು ಗಮನಿಸಿ - ಇದು ನಿಮ್ಮ "ಸುವರ್ಣ ಉತ್ತರ" ಪಟ್ಟಿಯಾಗುತ್ತದೆ. (3) ಮೇಲಿನ "ಬಲವಾದ ಪ್ರಾಂಪ್ಟ್" ಟೆಂಪ್ಲೇಟ್ ಅನ್ನು ಬಳಸಿಕೊಂಡು, ಸಂಬಂಧಿತ ವಿಭಾಗವನ್ನು ಸಂದರ್ಭವಾಗಿ ಹಸ್ತಚಾಲಿತವಾಗಿ ಅಂಟಿಸಿ ಮತ್ತು ಮಾದರಿಯನ್ನು ಕೇಳಿ. (4) ಮಾದರಿಯು ನೀಡಿದ ಉತ್ತರವನ್ನು ಚಿನ್ನದ ಉತ್ತರದೊಂದಿಗೆ ಹೋಲಿಸಿ ಮತ್ತು ಸರಿ/ಸುಳ್ಳು ಎಂದು ಗುರುತಿಸಿ. ಭವಿಷ್ಯದ ಘಟಕಗಳಲ್ಲಿ ನೀವು ಸ್ವಯಂಚಾಲಿತಗೊಳಿಸುವ ಮೌಲ್ಯಮಾಪನದ ಮೊದಲ ಹಸ್ತಚಾಲಿತ ಆವೃತ್ತಿಯಾಗಿದೆ.
ಪರಿಶೀಲನಾಪಟ್ಟಿ
- [ ] RAG ತೂಕವನ್ನು ಬದಲಾಯಿಸುವುದಿಲ್ಲ ಎಂದು ನಾನು ಒಂದು ವಾಕ್ಯದಲ್ಲಿ ವಿವರಿಸಬಹುದು, ಅದು ಕೇವಲ ಸಂದರ್ಭವನ್ನು ಸೇರಿಸುತ್ತದೆ.
- [ ] ನಾನು RAG, ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಮತ್ತು ದೀರ್ಘ ಸಂದರ್ಭದ ನಡುವೆ ವ್ಯತ್ಯಾಸವನ್ನು ಗುರುತಿಸಬಲ್ಲೆ ಮತ್ತು ಅದು ಯಾವಾಗ ಸೂಕ್ತವಾಗಿದೆ.
- [ ] ನಾನು ಇಂಡೆಕ್ಸಿಂಗ್ (ಕಲೆಕ್ಟ್-ಶ್ರೆಡ್-ಎಂಬೆಡ್-ಸೇವ್) ಮತ್ತು ಕ್ವೆರಿ (ಎಂಬೆಡ್-ಫೆಚ್-ಪ್ರಾಂಪ್ಟ್-ಜನರೇಟ್) ಹಂತಗಳನ್ನು ಕ್ರಮವಾಗಿ ಎಣಿಸಬಹುದು.
- [ ] ನಾನು ಪ್ರಾಂಪ್ಟ್ಗೆ "ಸಂದರ್ಭದಲ್ಲಿ ಇಲ್ಲದಿದ್ದರೆ, ನನಗೆ ಗೊತ್ತಿಲ್ಲ ಎಂದು ಹೇಳಿ" ಮತ್ತು "ಮೂಲವನ್ನು ಉಲ್ಲೇಖಿಸಿ" ಸೂಚನೆಗಳನ್ನು ಏಕೆ ಸೇರಿಸಿದ್ದೇನೆ ಎಂದು ನನಗೆ ತಿಳಿದಿದೆ.
- [ ] ನಾನು ನನ್ನ ಸ್ವಂತ ಪ್ರಕರಣಕ್ಕೆ "ಮರುಪಡೆಯುವಿಕೆ ಗುಣಮಟ್ಟ = RAG ಗುಣಮಟ್ಟ" ತತ್ವವನ್ನು ಅಳವಡಿಸಿಕೊಳ್ಳಬಹುದು.