ವೃತ್ತಿಪರ ಸಂದೇಹ ಮತ್ತು ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ: ದೃಢೀಕರಣ ಪಕ್ಷಪಾತ, ಭ್ರಮೆ ಮತ್ತು ವಿಮರ್ಶಾತ್ಮಕ ವಿಚಾರಣೆ

ಲಾಭಗಳು:

• ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯನ್ನು ಬಳಸುವಾಗ ವೃತ್ತಿಪರ ಸಂದೇಹವಾದ ಮತ್ತು ದೃಢೀಕರಣ ಪಕ್ಷಪಾತ ಮತ್ತು ಸ್ವಯಂಚಾಲಿತ ಪಕ್ಷಪಾತಕ್ಕೆ ಬೀಳುವ ಅಪಾಯಗಳನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳಿ
• ನಿರಾಕರಿಸಲು ಪ್ರಯತ್ನಿಸುವ ಪ್ರಶ್ನಾರ್ಹ ತಂತ್ರದೊಂದಿಗೆ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ಉತ್ಪಾದನೆಯನ್ನು ಪರೀಕ್ಷಿಸುವ ಸಾಮರ್ಥ್ಯ (ವಿರುದ್ಧವಾಗಿ ನೋಡಿ)
• ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ನಿರರ್ಗಳತೆಯು ನಿಖರತೆ ಎಂದರ್ಥವಲ್ಲ, ಸಂಶಯದ ಮನಸ್ಸು ನಿಯಂತ್ರಣದ ತಿರುಳು ಮತ್ತು ಅದನ್ನು ವರ್ಗಾಯಿಸಲಾಗುವುದಿಲ್ಲ ಎಂದು ಅರ್ಥಮಾಡಿಕೊಳ್ಳಲು ಸಾಧ್ಯವಾಗುತ್ತದೆ.

ಅನೇಕ ಇತರ ವೃತ್ತಿಗಳಿಂದ ಸ್ವತಂತ್ರ ಲೆಕ್ಕಪರಿಶೋಧನೆಯನ್ನು ಪ್ರತ್ಯೇಕಿಸುವ ಒಂದು ಮಾನಸಿಕ ಮನೋಭಾವವಿದೆ: ವೃತ್ತಿಪರ ಸಂದೇಹವಾದ. ISA ಗಳು ಇದನ್ನು ಲೆಕ್ಕಪರಿಶೋಧಕರು "ವಿಚಾರಿಸುವ ಮನಸ್ಸಿನಿಂದ ಕೆಲಸ ಮಾಡುತ್ತಾರೆ, ಸಾಕ್ಷ್ಯವು ಸಂಭಾವ್ಯ ತಪ್ಪು ಹೇಳಿಕೆಯನ್ನು ಸೂಚಿಸುತ್ತದೆಯೇ ಮತ್ತು ಸಾಕ್ಷ್ಯವನ್ನು ವಿಮರ್ಶಾತ್ಮಕವಾಗಿ ಮೌಲ್ಯಮಾಪನ ಮಾಡುವುದು" ಎಂದು ವ್ಯಾಖ್ಯಾನಿಸುತ್ತದೆ. ಅಂದರೆ, ಲೆಕ್ಕಪರಿಶೋಧಕನು ತನಗೆ ಪ್ರಸ್ತುತಪಡಿಸಿದ ಯಾವುದೇ ಮಾಹಿತಿಯನ್ನು ಸ್ವಯಂಚಾಲಿತವಾಗಿ ಸ್ವೀಕರಿಸುವುದಿಲ್ಲ-ನಿರ್ವಹಣಾ ಹೇಳಿಕೆಯಲ್ಲ, ಡಾಕ್ಯುಮೆಂಟ್ ಅಲ್ಲ, "ಸಮಂಜಸವೆಂದು ತೋರುವ" ಖಾತೆಯೂ ಅಲ್ಲ - ನಿಜ. ನಾನು ನಿರಂತರವಾಗಿ ಆಶ್ಚರ್ಯ ಪಡುತ್ತೇನೆ "ಇದು ನಿಜವಾಗಿಯೂ ಹಾಗೆ?" ಎಂದು ಕೇಳುತ್ತಾನೆ. ಈ ಧೋರಣೆಯು ನಿಯಂತ್ರಣದ ತಿರುಳಾಗಿದೆ ಮತ್ತು ಇದು ಬೇರ್ಪಡಿಸಲಾಗದು.

ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಯುಗದಲ್ಲಿ, ಈ ಕೋರ್ ಹೊಚ್ಚ ಹೊಸ ಪರೀಕ್ಷೆಯನ್ನು ಎದುರಿಸುತ್ತಿದೆ. ಏಕೆಂದರೆ AI ಮಾನವನ ಮನಸ್ಸಿನ ಎರಡು ಆಳವಾದ ದೌರ್ಬಲ್ಯಗಳನ್ನು ಪ್ರಚೋದಿಸಲು ಪ್ರವೀಣವಾಗಿದೆ - ಸ್ವಯಂಚಾಲಿತ ಪಕ್ಷಪಾತ ಮತ್ತು ದೃಢೀಕರಣ ಪಕ್ಷಪಾತ. ಈ ಘಟಕದಲ್ಲಿ, AI ಅನ್ನು ಬಳಸುವ ಆಡಿಟರ್ ಹೇಗೆ ತನ್ನ ಸಂದೇಹವನ್ನು ಕಾಪಾಡಿಕೊಳ್ಳಬಹುದು ಅಥವಾ ಬಲಪಡಿಸಬಹುದು ಎಂಬುದನ್ನು ನಾವು ಕವರ್ ಮಾಡುತ್ತೇವೆ. ಮುಖ್ಯ ಪ್ರಬಂಧವೆಂದರೆ AI ನ ನಿರರ್ಗಳತೆ ನಿಖರತೆ ಅಲ್ಲ; AI ಯ ಮುಖದಲ್ಲಿ ಸಂಶಯದ ಮನಸ್ಸು ಇನ್ನಷ್ಟು ಪ್ರಾಮುಖ್ಯವಾಗುತ್ತದೆ.

ಎರಡು ಅಪಾಯಕಾರಿ ಪಕ್ಷಪಾತಗಳು

ಆಟೊಮೇಷನ್ ಪಕ್ಷಪಾತವು ಜನರು ತಮ್ಮ ಸ್ವಂತ ನಿರ್ಣಯಕ್ಕಿಂತ ಯಂತ್ರ/ಸಾಫ್ಟ್‌ವೇರ್‌ನ ಔಟ್‌ಪುಟ್ ಅನ್ನು ಹೆಚ್ಚು ನಂಬುವ ಪ್ರವೃತ್ತಿಯಾಗಿದೆ. "ಕಂಪ್ಯೂಟರ್ ಅದನ್ನು ಲೆಕ್ಕಾಚಾರ ಮಾಡಿದೆ, ಅದು ಸರಿಯಾಗಿದೆ." AI ಗೆ ಬಂದಾಗ ಈ ಅಪಾಯವನ್ನು ಹೆಚ್ಚಿಸಲಾಗುತ್ತದೆ, ಏಕೆಂದರೆ AI ಕೇವಲ ಲೆಕ್ಕಾಚಾರ ಮಾಡುವುದಿಲ್ಲ; ನಿರರ್ಗಳವಾಗಿ, ಆತ್ಮವಿಶ್ವಾಸದಿಂದ, ಮಾನವರಂತೆ, ತರ್ಕಬದ್ಧ ವಾಕ್ಯಗಳನ್ನು ಮಾತನಾಡುತ್ತಾರೆ. ಮಾಹಿತಿಯು ನಿಖರವಾಗಿಲ್ಲದಿದ್ದರೂ ಸಹ ಆತ್ಮವಿಶ್ವಾಸದ ಸ್ವರವು ಮನವೊಲಿಸುವಂತಿದೆ.

ದೃಢೀಕರಣ ಪಕ್ಷಪಾತವು ಜನರು ಈ ಹಿಂದೆ ನಂಬಿದ ಅಥವಾ ಆಶಿಸಿದ ತೀರ್ಮಾನವನ್ನು ಬೆಂಬಲಿಸುವ ಮಾಹಿತಿಯನ್ನು ಹುಡುಕುವ ಮತ್ತು ಸಂಘರ್ಷದ ಮಾಹಿತಿಯನ್ನು ನಿರ್ಲಕ್ಷಿಸುವ ಪ್ರವೃತ್ತಿಯಾಗಿದೆ. ಲೆಕ್ಕಪರಿಶೋಧನೆಯಲ್ಲಿ ಇದು ಮಾರಣಾಂತಿಕವಾಗಿದೆ: "ಈ ಕ್ಲೈಂಟ್ ಸ್ವಚ್ಛವಾಗಿರಬೇಕು" ಎಂದು ಭಾವಿಸುವ ಲೆಕ್ಕಪರಿಶೋಧಕನು AI ಅನ್ನು ಕೇಳಿದಾಗ ಮತ್ತು ದೃಢೀಕರಣವನ್ನು ಪಡೆದಾಗ ಸಮಾಧಾನಗೊಳ್ಳುತ್ತಾನೆ ಮತ್ತು ಇದಕ್ಕೆ ವಿರುದ್ಧವಾಗಿ ಸಾಕ್ಷ್ಯವನ್ನು ಹುಡುಕುವುದನ್ನು ನಿಲ್ಲಿಸುತ್ತಾನೆ. AI ಕೇಳುವ ಪ್ರಶ್ನೆಗೆ ಒಲವು ತೋರುವುದರಿಂದ (“ಇದು ಸರಿಯೇ, ಸರಿ?” ಎಂದು ನೀವು ಕೇಳಿದರೆ ಅದು ನಿಮ್ಮೊಂದಿಗೆ ಒಪ್ಪುವ ಉತ್ತರವನ್ನು ಉತ್ಪಾದಿಸುವ ಸಾಧ್ಯತೆ ಹೆಚ್ಚು), ಇದು ದೃಢೀಕರಣ ಪಕ್ಷಪಾತವನ್ನು ಉತ್ತೇಜಿಸುತ್ತದೆ.

ಮೂರನೆಯದು ಕೂಡ ಇದೆ: ಭ್ರಮೆ. ಮಾಡ್ಯೂಲ್‌ನಲ್ಲಿ ನಾವು ಇದನ್ನು ಹಲವು ಬಾರಿ ನೋಡಿದ್ದೇವೆ - AI ಅಸ್ತಿತ್ವದಲ್ಲಿಲ್ಲದ ಸಂಖ್ಯೆ, ಐಟಂ, ಸಂಪನ್ಮೂಲವನ್ನು ನಿರರ್ಗಳವಾಗಿ ರಚಿಸಬಹುದು. ಮೂರು ದೌರ್ಬಲ್ಯಗಳನ್ನು ಸಂಯೋಜಿಸಿದಾಗ ಅಪಾಯವು ಹೆಚ್ಚಾಗುತ್ತದೆ: AI ವಿಷಯಗಳನ್ನು ರೂಪಿಸುತ್ತದೆ (ಭ್ರಮೆ), ನೀವು ಅದನ್ನು ನಂಬುತ್ತೀರಿ ಏಕೆಂದರೆ ಅದು ದ್ರವವಾಗಿದೆ (ಆಟೊಮೇಷನ್ ಪಕ್ಷಪಾತ), ನೀವು ಅದನ್ನು ಪ್ರಶ್ನಿಸುವುದಿಲ್ಲ ಏಕೆಂದರೆ ಅದು ನೀವು ನಿರೀಕ್ಷಿಸುವದನ್ನು ಹೇಳುತ್ತದೆ (ದೃಢೀಕರಣ ಪಕ್ಷಪಾತ).

AI ವಿರುದ್ಧ ಸಂದೇಹ ಮನಸ್ಸಿನ ಮೂರು ಸಾಧನಗಳು

AI ವಿರುದ್ಧ ಕಾಂಕ್ರೀಟ್ ತಂತ್ರಗಳಲ್ಲಿ ಸಂದೇಹವಾದವನ್ನು ಹಾಕೋಣ:

1. ನಿರಾಕರಿಸಲು ಪ್ರಯತ್ನಿಸಿ, ದೃಢೀಕರಿಸಬೇಡಿ. AI ಅದರ ಔಟ್‌ಪುಟ್ ಅನ್ನು "ಇದು ನಿಜವೇ?" ಎಂದು ಕೇಳಬಹುದು. "ಇದು ತಪ್ಪಾಗಿದ್ದರೆ ನನಗೆ ಹೇಗೆ ತಿಳಿಯುತ್ತದೆ?" ಪ್ರಶ್ನೆ. ನಿಮ್ಮನ್ನು ಕೇಳಿಕೊಳ್ಳಿ: "ಈ ಹೇಳಿಕೆಯು ತಪ್ಪಾಗಿದ್ದರೆ, ಯಾವ ಸಾಕ್ಷ್ಯವು ಅದನ್ನು ತೋರಿಸುತ್ತದೆ?" ಮತ್ತು ಆ ಪುರಾವೆಗಾಗಿ ನೋಡಿ. ಒಂದೇ ದೃಢೀಕರಿಸುವ ಉದಾಹರಣೆಯನ್ನು ಕಂಡುಹಿಡಿಯುವುದು ಸುಲಭ; ನಿರಾಕರಿಸಲು ಪ್ರಯತ್ನಿಸುವುದು ಮತ್ತು ವಿಫಲವಾಗುವುದು ನಿಜವಾದ ಭರವಸೆಯನ್ನು ನೀಡುತ್ತದೆ.
2. ತಟಸ್ಥವಾಗಿ ಮತ್ತು ಹಿಂದಕ್ಕೆ ಕೇಳಿ. AI ಅನ್ನು ಕೇಳಿ "ಇಲ್ಲಿ ಸಮಸ್ಯೆ ಇಲ್ಲ, ಸರಿ?" ಕೇಳಬೇಡ; ಇದು ಅನುಮೋದಿಸುವ ಪ್ರತಿಕ್ರಿಯೆಯನ್ನು ಆಹ್ವಾನಿಸುತ್ತದೆ. ಬದಲಾಗಿ, "ಈ ಡೇಟಾದಲ್ಲಿ ನಾನು ತಪ್ಪಿಸಿಕೊಂಡಿರುವ ಅಪಾಯಗಳು ಯಾವುವು?" ಮತ್ತು "ಈ ಫಲಿತಾಂಶವು ತಪ್ಪಾಗಬಹುದಾದ ಮೂರು ಸನ್ನಿವೇಶಗಳು ಯಾವುವು?" ಕೇಳು. ಒಂದೇ ಪ್ರಶ್ನೆಯನ್ನು ಎರಡು ವಿರುದ್ಧ ಬದಿಗಳಿಂದ ಕೇಳಿ ಮತ್ತು ಉತ್ತರಗಳನ್ನು ಹೋಲಿಕೆ ಮಾಡಿ.
3. ಮೂಲಕ್ಕೆ ಡೌನ್‌ಲೋಡ್ ಮಾಡಿ ಮತ್ತು ಪುನರುತ್ಪಾದಿಸಿ. ಪ್ರತಿ ಸಂಚಿಕೆ, ಗುಣಲಕ್ಷಣ ಮತ್ತು ತೀರ್ಮಾನಕ್ಕೆ, "ನಾನು ಇದನ್ನು ಸ್ವತಂತ್ರವಾಗಿ ಎಲ್ಲಿ ಪರಿಶೀಲಿಸುತ್ತೇನೆ?" ಪ್ರಶ್ನೆಯನ್ನು ಕೇಳಿ ಮತ್ತು ನಿಜವಾಗಿ ಪರಿಶೀಲಿಸಿ. AI ಯ ಔಟ್‌ಪುಟ್ ಅನ್ನು ಸಮರ್ಥನೆಯಾಗಿ ವೀಕ್ಷಿಸಿ; ಸಾಕ್ಷ್ಯವು ಹಕ್ಕುಗೆ ಬಾಹ್ಯವಾಗಿದೆ.

ಸಲಹೆ: ಅಭ್ಯಾಸ ಮಾಡಿಕೊಳ್ಳಿ: AI ನೀಡುವ ಪ್ರತಿ ಮಹತ್ವದ ಔಟ್‌ಪುಟ್‌ನ ಮುಂದೆ, ಕೈಯಿಂದ ಎರಡು ವಿಷಯಗಳನ್ನು ಬರೆಯಿರಿ - "(1) ನಾನು ಇದನ್ನು ಏನು ಪರಿಶೀಲಿಸಿದೆ, (2) ಇದು ತಪ್ಪಾಗಿದ್ದರೆ ಯಾವ ಪುರಾವೆಗಳು ಇದನ್ನು ತೋರಿಸುತ್ತವೆ." ಈ ಎರಡು ಟಿಪ್ಪಣಿಗಳು ಯಾಂತ್ರೀಕೃತಗೊಂಡ ಮತ್ತು ದೃಢೀಕರಣ ಪಕ್ಷಪಾತ ಎರಡನ್ನೂ ಮುರಿಯುತ್ತವೆ.

ಲೆಕ್ಕ ಪರಿಶೋಧಕರು ನಿಯೋಜಿಸಲಾಗದ ತೀರ್ಪುಗಳು

ಕೆಲವು ಉದ್ಯೋಗಗಳು ಅಂತರ್ಗತವಾಗಿ ಸಂದೇಹವಾದ ಮತ್ತು ತೀರ್ಪು ಅಗತ್ಯವಿರುತ್ತದೆ; ಇವುಗಳನ್ನು AI ಗೆ ನಿಯೋಜಿಸಲಾಗುವುದಿಲ್ಲ, ಕೇವಲ ಬೆಂಬಲಿತವಾಗಿದೆ:

ಬೇರ್ಪಡಿಸಲಾಗದ ನ್ಯಾಯವ್ಯಾಪ್ತಿ

ಏಕೆ

ಪುರಾವೆಗಳು ಸಾಕಷ್ಟು ಮತ್ತು ಸೂಕ್ತವೇ

ವೃತ್ತಿಪರ ತೀರ್ಪು; ಸಂದರ್ಭ ಅವಲಂಬಿತ

ವಿವರಣೆಯ ಸಮರ್ಥನೀಯತೆ

ಉದ್ಯಮ ಮತ್ತು ಉದ್ದೇಶವನ್ನು ಪರಿಗಣಿಸುವ ಅಗತ್ಯವಿದೆ

ವಂಚನೆಯ ಅಪಾಯದ ಮೌಲ್ಯಮಾಪನ

ಸಂದೇಹವಾದ ಮತ್ತು ಅಂತಃಪ್ರಜ್ಞೆ; ಡೇಟಾ ಮಾದರಿಯನ್ನು ಮೀರಿ

ವಸ್ತುನಿಷ್ಠತೆ ಮತ್ತು ಅಭಿಪ್ರಾಯ ನಿರ್ಧಾರ

ಸಾರ್ವಜನಿಕರಿಗೆ ಜವಾಬ್ದಾರರಾಗಿರುವ ನ್ಯಾಯಾಂಗ

ನಿರ್ವಹಣೆಯ ಪ್ರಾಮಾಣಿಕತೆಯ ಬಗ್ಗೆ ಅಭಿಪ್ರಾಯ

ಮಾನವ ನಡವಳಿಕೆಯನ್ನು ಓದುವುದು; AI ಇದನ್ನು ಮಾಡಲು ಸಾಧ್ಯವಿಲ್ಲ

ಸಂದೇಹವಾದ ಮತ್ತು ಪಾದಚಾರಿಗಳ ನಡುವಿನ ವ್ಯತ್ಯಾಸ: ಅಳತೆಯ ವರ್ತನೆ

ವೃತ್ತಿಪರ ಸಂದೇಹವಾದವು ಎಲ್ಲವನ್ನೂ ನಂಬದಿರುವುದು ಅಥವಾ ಮುಂಚಿತವಾಗಿ ನಿರ್ವಹಣೆಯನ್ನು ದೂಷಿಸುವುದು ಎಂದರ್ಥವಲ್ಲ; ಇದು ಮಿತಿಮೀರಿದ ಮತ್ತು ನಿಯಂತ್ರಣವನ್ನು ನಿಷ್ಪರಿಣಾಮಕಾರಿಯನ್ನಾಗಿ ಮಾಡುತ್ತದೆ. ಸಂದೇಹವಾದವು ಶುದ್ಧ ನಂಬಿಕೆಯಲ್ಲ (ನಿಮಗೆ ಹೇಳಿದ ಎಲ್ಲವನ್ನೂ ಸ್ವೀಕರಿಸುವುದು) ಅಥವಾ ಕುರುಡು ನಿರಾಕರಣೆ (ಎಲ್ಲವನ್ನೂ ತಿರಸ್ಕರಿಸುವುದು); ನಡುನಡುವೆ, ಇದು ಸಾಕ್ಷ್ಯಕ್ಕೆ ಅನುಗುಣವಾಗಿ ವಿಚಾರಣೆಯ ವರ್ತನೆಯಾಗಿದೆ. ಲೆಕ್ಕಪರಿಶೋಧಕರು ನಿರ್ವಹಣೆಯನ್ನು ಪ್ರಾಮಾಣಿಕವಾಗಿ ಸ್ವೀಕರಿಸಬಹುದು, ಆದರೆ ಸಾಕ್ಷ್ಯದೊಂದಿಗೆ ಈ ಸ್ವೀಕಾರವನ್ನು ಪರೀಕ್ಷಿಸುತ್ತಾರೆ; ಒಂದು ವಿವರಣೆಯನ್ನು ತೋರಿಕೆಯಂತೆ ಕಾಣಬಹುದು, ಆದರೆ ತೋರಿಕೆಯನ್ನು ಖಚಿತಪಡಿಸುತ್ತದೆ. AI ಈ ಸಮತೋಲನವನ್ನು ಕೆಡಿಸಬಹುದು: ಒಂದು ದಿಕ್ಕಿನಲ್ಲಿ, ಅದು ನಿಮ್ಮನ್ನು ತನ್ನ ದ್ರವದ ಉತ್ಪಾದನೆಯೊಂದಿಗೆ ಅತಿಯಾದ ಆತ್ಮವಿಶ್ವಾಸಕ್ಕೆ ತಳ್ಳುತ್ತದೆ; ಮತ್ತೊಂದೆಡೆ, ನೀವು ಅದಕ್ಕೆ "ಎಲ್ಲದರಲ್ಲೂ ತಪ್ಪುಗಳನ್ನು ಕಂಡುಕೊಳ್ಳಿ" ಎಂದು ಹೇಳಿದರೆ ಅದು ಅಂತ್ಯವಿಲ್ಲದ ಸುಳ್ಳು ಧನಾತ್ಮಕ ಅಂಶಗಳೊಂದಿಗೆ ನಿಮ್ಮ ಮೇಲೆ ಸ್ಫೋಟಿಸುತ್ತದೆ. ಪುರಾವೆಗಳನ್ನು ಉತ್ಪಾದಿಸಲು ಮತ್ತು ಪುರಾವೆಗಳನ್ನು ನಿರಾಕರಿಸಲು AI ಅನ್ನು ಚಾಲನೆ ಮಾಡುವಾಗ ಯಾವಾಗಲೂ ಸಾಕ್ಷ್ಯದ ತೂಕದ ವಿರುದ್ಧ ಫಲಿತಾಂಶವನ್ನು ತೂಕ ಮಾಡುವುದು ಸರಿಯಾದ ವರ್ತನೆ. ಸಂದೇಹವಾದವು ವ್ಯಕ್ತಿತ್ವದ ಲಕ್ಷಣವಲ್ಲ, ಆದರೆ ಶಿಸ್ತುಬದ್ಧವಾಗಿ ಕೆಲಸ ಮಾಡುವ ವಿಧಾನವಾಗಿದೆ; ಮತ್ತು ಲೆಕ್ಕಪರಿಶೋಧಕರು ಈ ಶಿಸ್ತನ್ನು ಸ್ಥಾಪಿಸುತ್ತಾರೆ, ನಿರ್ವಹಿಸುತ್ತಾರೆ ಮತ್ತು ಸಾಕ್ಷ್ಯ ನೀಡುತ್ತಾರೆ, AI ಅಲ್ಲ.

ಮೂರು ಸಣ್ಣ ಪ್ರಕರಣಗಳು

ಪ್ರಕರಣ 1 - ನಿರಾಕರಣೆ ತಂತ್ರವು ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ. ಲೆಕ್ಕಪರಿಶೋಧಕರು AI ಅನ್ನು ಮುದ್ರಿಸಿದರು, "ಈ ಸ್ಟಾಕ್ ಮೌಲ್ಯಮಾಪನವು ಸಮಂಜಸವಾಗಿ ಕಾಣುತ್ತದೆ." ದೃಢೀಕರಿಸುವ ಬದಲು, ಅವರು ಹಿಮ್ಮೆಟ್ಟುವಂತೆ ಕೇಳಿದರು: "ಈ ಮೌಲ್ಯಮಾಪನವು ಅತಿಯಾಗಿ ಹೇಳಿದರೆ, ಅದನ್ನು ಯಾವ ಸಾಕ್ಷ್ಯವು ತೋರಿಸುತ್ತದೆ?" "ಮಾರಾಟದ ನಂತರದ ಬೆಲೆಗಳು ವೆಚ್ಚಕ್ಕಿಂತ ಕಡಿಮೆಯಾಗುವ ಐಟಂಗಳು" ಎಂದು YZ ಹೇಳಿದರು. ಲೆಕ್ಕ ಪರಿಶೋಧಕರು ಈ ಐಟಂಗಳಿಗಾಗಿ ಹುಡುಕಿದರು ಮತ್ತು ವಾಸ್ತವವಾಗಿ ಕಡಿಮೆ ಮೌಲ್ಯದ ಗುಂಪನ್ನು ಕಂಡುಕೊಂಡರು. ನಿರಾಕರಣೆಯ ಪ್ರಶ್ನೆಯು ದೃಢೀಕರಣವನ್ನು ಮರೆಮಾಚುವ ಅಪಾಯವನ್ನು ಬಹಿರಂಗಪಡಿಸಿತು.

ಪ್ರಕರಣ 2 - ದೃಢೀಕರಣ ಪಕ್ಷಪಾತಕ್ಕೆ ಬೀಳುವಿಕೆ. ಕ್ರಂಚ್ ಸಮಯದಲ್ಲಿ ತಂಡದ ಸದಸ್ಯರೊಬ್ಬರು AI ಯನ್ನು ಕೇಳಿದರು, "ಈ ಖಾತೆಯಲ್ಲಿ ದೊಡ್ಡ ತಪ್ಪೇನೂ ಇಲ್ಲ, ಸರಿ?" ಎಂದು ಕೇಳಿದರು. YZ ಪ್ರಶ್ನೆಗೆ ಒಲವು ತೋರಿತು ಮತ್ತು "ನೀವು ಒದಗಿಸಿದ ಮಾಹಿತಿಯ ಪ್ರಕಾರ, ಗಮನಾರ್ಹ ಸಮಸ್ಯೆ ಕಂಡುಬಂದಿಲ್ಲ." ತಂಡದ ಸದಸ್ಯರು ವಿಶ್ರಾಂತಿ ಮತ್ತು ಪೆನ್ನನ್ನು ಮುಚ್ಚಿದರು. ಆದಾಗ್ಯೂ, ಅವರು ಯಾವುದೇ ಪುರಾವೆಗಳನ್ನು ಪ್ರಸ್ತುತಪಡಿಸಲಿಲ್ಲ; AI ಕೇವಲ ಅವರ ವಾಕ್ಯವನ್ನು ಪ್ರತಿಬಿಂಬಿಸುತ್ತದೆ. ಜವಾಬ್ದಾರಿಯುತ ವ್ಯಕ್ತಿ ನಿಷ್ಪಕ್ಷಪಾತವಾಗಿ ಪ್ರಶ್ನೆ ಕೇಳಿಲ್ಲ ಎಂದು ತೋರಿಸಿದರು. ಪಾಠ: ನೀವು ಪ್ರಶ್ನೆಯನ್ನು ಹೇಗೆ ಕೇಳುತ್ತೀರಿ ಎಂಬುದು ನೀವು ಪಡೆಯುವ ಉತ್ತರವನ್ನು ನಿರ್ಧರಿಸುತ್ತದೆ; ದೃಢೀಕರಣವನ್ನು ಬಯಸುವ ಪ್ರಶ್ನೆಯು ದೃಢೀಕರಣವನ್ನು ಉಂಟುಮಾಡುತ್ತದೆ.

ಪ್ರಕರಣ 3 - ನಿರರ್ಗಳತೆಗಾಗಿ ಬೀಳುವಿಕೆ. YZ ಅತ್ಯಂತ ನಿರರ್ಗಳ ಮತ್ತು ತಾರ್ಕಿಕ ಪ್ಯಾರಾಗ್ರಾಫ್‌ನಲ್ಲಿ ವಿವರಿಸಿದ ಶಾಸನದ ವ್ಯಾಖ್ಯಾನವು ಸರಿಯಾಗಿದೆ ಎಂದು ಲೆಕ್ಕಪರಿಶೋಧಕರು ಭಾವಿಸಿದರು ಮತ್ತು ಅದನ್ನು ಕೆಲಸದ ಪತ್ರಿಕೆಯಲ್ಲಿ ಸೇರಿಸಿದರು. ಪಠ್ಯ ಎಷ್ಟು ಅಚ್ಚುಕಟ್ಟಾಗಿತ್ತೆಂದರೆ ಅದನ್ನು ಪ್ರಶ್ನಿಸುವ ಮನಸ್ಸಾಗಲಿಲ್ಲ. ಅಧಿಕೃತ ಪಠ್ಯದಲ್ಲಿ ಉಲ್ಲೇಖವು ಯಾವುದೇ ಸಮಾನತೆಯನ್ನು ಹೊಂದಿಲ್ಲ ಎಂದು ಜವಾಬ್ದಾರಿಯುತ ವ್ಯಕ್ತಿ ತೋರಿಸಿದರು. ಪಾಠ: ನಿರರ್ಗಳತೆ ಮತ್ತು ಆತ್ಮವಿಶ್ವಾಸವು ನಿಖರತೆಯ ಪುರಾವೆಯಲ್ಲ; ಹೆಚ್ಚು ಮನವರಿಕೆಯಾಗುವ ಫಲಿತಾಂಶವು ಅತ್ಯಂತ ಅಪಾಯಕಾರಿಯಾಗಿರಬಹುದು.

ದುರ್ಬಲ ಪ್ರಾಂಪ್ಟ್ / ಬಲವಾದ ಪ್ರಾಂಪ್ಟ್

ದುರ್ಬಲ ಪ್ರಾಂಪ್ಟ್:

ಈ ವಿಶ್ಲೇಷಣೆ ಸರಿಯಾಗಿದೆ, ಸರಿ? ನೀವು ಅನುಮೋದಿಸುತ್ತೀರಾ?

ಸಮಸ್ಯೆ: ದೃಢೀಕರಣವನ್ನು ಬಯಸುವ ಪಕ್ಷಪಾತದ ಪ್ರಶ್ನೆ. ಇದು ನಿಮ್ಮೊಂದಿಗೆ ಸೇರಲು AI ಅನ್ನು ತಳ್ಳುತ್ತದೆ; ಇದು ದೃಢೀಕರಣ ಪಕ್ಷಪಾತವನ್ನು ಉತ್ತೇಜಿಸುತ್ತದೆ ಮತ್ತು ನಿಜವಾದ ಅಪಾಯವನ್ನು ಮರೆಮಾಡುತ್ತದೆ.

ಶಕ್ತಿಯುತ ಪ್ರಾಂಪ್ಟ್:

ನಿಮ್ಮ ಪಾತ್ರ: ನೀವು ಸ್ವತಂತ್ರ ಲೆಕ್ಕಪರಿಶೋಧಕರ ನಿರ್ಣಾಯಕ ವಿಚಾರಣೆ ಪಾಲುದಾರರಾಗಿದ್ದೀರಿ. ನಿಮ್ಮ ಕಾರ್ಯವು ನನ್ನೊಂದಿಗೆ ಒಪ್ಪಿಕೊಳ್ಳುವುದು ಅಲ್ಲ, ಆದರೆ ನನ್ನ ಔಟ್‌ಪುಟ್ ಅನ್ನು ನಿರಾಕರಿಸಲು ಪ್ರಯತ್ನಿಸುವುದು. ಸಂದರ್ಭ: ವಿಶ್ಲೇಷಣಾತ್ಮಕ ಕಾರ್ಯವಿಧಾನದ ನನ್ನ ತೀರ್ಮಾನ ಮತ್ತು ನನ್ನ ತಾತ್ಕಾಲಿಕ ತೀರ್ಮಾನವನ್ನು ಕೆಳಗೆ ನೀಡಲಾಗಿದೆ.[ಫಲಿತಾಂಶ ಪಠ್ಯ]ಕಾರ್ಯ: 1) ಈ ತೀರ್ಮಾನವು ತಪ್ಪಾಗಬಹುದಾದ 3 ಸನ್ನಿವೇಶಗಳನ್ನು ಪಟ್ಟಿ ಮಾಡಿ. 2) ಪ್ರತಿ ಸನ್ನಿವೇಶಕ್ಕೂ ಇದು ನಿಜವಾಗಿದ್ದರೆ, "ಇದು ಏನು? ಕಾಂಕ್ರೀಟ್, ಹುಡುಕಬಹುದಾದ ಪುರಾವೆಗಳನ್ನು ಸೂಚಿಸಿ. 3) ನಾನು ತಪ್ಪಿಸಿಕೊಂಡಿರುವ ಯಾವುದೇ ಡೇಟಾ ಅಥವಾ ಊಹೆಗಳನ್ನು ಗುರುತಿಸಿ. 4) ನನ್ನೊಂದಿಗೆ ಒಪ್ಪುವ ವಾಕ್ಯಗಳನ್ನು ಮಾಡಬೇಡಿ; ದುರ್ಬಲ ಅಂಶಗಳನ್ನು ಕಂಡುಹಿಡಿಯುವ ಜವಾಬ್ದಾರಿಯನ್ನು ನೀವು ಹೊಂದಿದ್ದೀರಿ. ನಿಮಗೆ ಖಚಿತವಾಗಿಲ್ಲದಿರುವಲ್ಲಿ "ಅಜ್ಞಾತ" ಎಂದು ಗುರುತಿಸಿ.

ಈ ಪ್ರಾಂಪ್ಟ್ ಶಕ್ತಿಯುತವಾಗಿದೆ ಏಕೆಂದರೆ ಇದು AI (ನಿರಾಕರಣೆ) ಯ ಪಾತ್ರವನ್ನು ಹಿಮ್ಮೆಟ್ಟಿಸುತ್ತದೆ, ಇದು ನಿರಾಕರಣೆಯ ಸನ್ನಿವೇಶಗಳು ಮತ್ತು ಹುಡುಕಬಹುದಾದ ಪುರಾವೆಗಳ ಅಗತ್ಯವಿರುತ್ತದೆ ಮತ್ತು ದೃಢೀಕರಣವನ್ನು ಹುಡುಕುವ ಭಾಷೆಯನ್ನು ನಿಷೇಧಿಸುತ್ತದೆ. ಇದು ದೃಢೀಕರಣ ಪಕ್ಷಪಾತದ ಸಾಧನಕ್ಕಿಂತ ಹೆಚ್ಚಾಗಿ ಸಂದೇಹವಾದದ ಸೇವೆಯಲ್ಲಿ AI ಅನ್ನು ಇರಿಸುತ್ತದೆ.

ಸಾಮಾನ್ಯ ತಪ್ಪುಗಳು

• ಅನುಮೋದನೆ ಪಡೆಯಲು ಪ್ರಶ್ನೆಗಳನ್ನು ಕೇಳುವುದು. "ಪರವಾಗಿಲ್ಲ, ಸರಿ?" ಒಪ್ಪಿದ ಉತ್ತರವನ್ನು ಕೇಳುವ ಮತ್ತು ಖಚಿತಪಡಿಸಿಕೊಳ್ಳುವ ಮೂಲಕ.
• ನಿಖರತೆಗಾಗಿ ನಿರರ್ಗಳತೆಯನ್ನು ತಪ್ಪಾಗಿ ಗ್ರಹಿಸುವುದು. ಪ್ರಶ್ನೆಯಿಲ್ಲದೆ ಚೆನ್ನಾಗಿ ಬರೆಯಲ್ಪಟ್ಟ, ಆತ್ಮವಿಶ್ವಾಸದ ಔಟ್‌ಪುಟ್ ಅನ್ನು ಸ್ವೀಕರಿಸುವುದು.
• ಒಂದೇ ದೃಢೀಕರಣ ಉದಾಹರಣೆಯೊಂದಿಗೆ ತೃಪ್ತರಾಗಿರಿ. ಅದನ್ನು ನಿರಾಕರಿಸಲು ಪ್ರಯತ್ನಿಸದೆಯೇ, ಮೊದಲ ಪೋಷಕ ಶೋಧನೆಯೊಂದಿಗೆ ಮುಚ್ಚುವುದು.
• ಬೇರ್ಪಡಿಸಲಾಗದ ನ್ಯಾಯವ್ಯಾಪ್ತಿಯನ್ನು ನಿಯೋಜಿಸಲು. ಸಾಕ್ಷ್ಯದ ಸಮರ್ಪಕತೆ, ಸಮಂಜಸತೆ, ಅಭಿಪ್ರಾಯದ ನಿರ್ಧಾರವನ್ನು AI ಗೆ ಬಿಡುವುದು.
• ಸಮಯದ ಒತ್ತಡದಲ್ಲಿ ಸಂದೇಹವನ್ನು ಬಿಡುವುದು. ನೀವು ಸಿಲುಕಿಕೊಂಡಾಗ AI ನ ಸಮಾಧಾನಕರ ಉತ್ತರದಲ್ಲಿ ಆಶ್ರಯ ಪಡೆಯುವುದು.

ಎಚ್ಚರಿಕೆ: ಸಮಯದ ಒತ್ತಡವು ಸಂದೇಹವಾದದ ದೊಡ್ಡ ಶತ್ರುವಾಗಿದೆ, ಮತ್ತು ಈ ಒತ್ತಡದಲ್ಲಿ AI ಅತ್ಯಂತ ಅಪಾಯಕಾರಿಯಾಗುತ್ತದೆ; ಏಕೆಂದರೆ ಅದು ನಿಮಗೆ ವೇಗವಾದ, ನಿರರ್ಗಳವಾದ ಮತ್ತು ಸಾಂತ್ವನ ನೀಡುವ ಉತ್ತರವನ್ನು ನೀಡುತ್ತದೆ. ನೀವು ವಿಪರೀತವಾಗಿರುವಾಗ ನಿರಾಕರಣೆಯ ಪ್ರಶ್ನೆಯನ್ನು ಕೇಳುವುದನ್ನು ಕಡ್ಡಾಯವಾಗಿ ಮಾಡಿ.

ಸಾರಾಂಶದಲ್ಲಿ

ವೃತ್ತಿಪರ ಸಂದೇಹವು ಲೆಕ್ಕಪರಿಶೋಧನೆಯ ಮಧ್ಯಭಾಗದಲ್ಲಿದೆ ಮತ್ತು AI ಯುಗದಲ್ಲಿ ಇನ್ನಷ್ಟು ನಿರ್ಣಾಯಕವಾಗುತ್ತದೆ. AI ಮೂರು ದೌರ್ಬಲ್ಯಗಳನ್ನು ಪ್ರಚೋದಿಸುತ್ತದೆ: ಭ್ರಮೆ (ಅದನ್ನು ರೂಪಿಸುತ್ತದೆ), ಯಾಂತ್ರೀಕೃತಗೊಂಡ ಪಕ್ಷಪಾತ (ನಾವು ಅದನ್ನು ದ್ರವವಾಗಿರುವುದರಿಂದ ಅದನ್ನು ನಂಬುತ್ತೇವೆ), ದೃಢೀಕರಣ ಪಕ್ಷಪಾತ (ನಾವು ಅದನ್ನು ಪ್ರಶ್ನಿಸುವುದಿಲ್ಲ ಏಕೆಂದರೆ ಅದು ನಾವು ಆಶಿಸುವುದನ್ನು ಹೇಳುತ್ತದೆ). ಪ್ರತಿವಿಷವು AI ಅನ್ನು ನಿರಾಕರಿಸಲು ಹೊರದಬ್ಬುವುದು, ಅದನ್ನು ದೃಢೀಕರಿಸುವುದಿಲ್ಲ: "ಇದು ತಪ್ಪಾಗಿದ್ದರೆ, ಯಾವ ಪುರಾವೆಯು ಅದನ್ನು ತೋರಿಸುತ್ತದೆ?" ಮತ್ತು ವ್ಯತಿರಿಕ್ತ ಸಾಕ್ಷ್ಯವನ್ನು ಹುಡುಕುವುದು, ವಸ್ತುನಿಷ್ಠವಾಗಿ ಮತ್ತು ಹಿಂದಕ್ಕೆ ಕೇಳುವುದು, ಮೂಲದಿಂದ ಪ್ರತಿ ಔಟ್‌ಪುಟ್ ಅನ್ನು ಪುನರುತ್ಪಾದಿಸುವುದು. ಪುರಾವೆಗಳ ಸಮರ್ಪಕತೆ, ಸಮಂಜಸತೆ, ವಂಚನೆಯ ಅಪಾಯ ಮತ್ತು ಅಭಿಪ್ರಾಯದ ತೀರ್ಪುಗಳಂತಹ ತೀರ್ಪುಗಳು ಸಂದೇಹದ ಅಗತ್ಯವಿರುತ್ತದೆ ಮತ್ತು ಅವುಗಳನ್ನು ವರ್ಗಾಯಿಸಲಾಗುವುದಿಲ್ಲ. ನಿರರ್ಗಳತೆ ನಿಖರತೆ ಅಲ್ಲ; ಸಂಶಯದ ಮನಸ್ಸು ನಿಮ್ಮದು.

ಅಪ್ಲಿಕೇಶನ್ ಕಾರ್ಯ

ನಿಮ್ಮ ಆಡಿಟ್ ಫಲಿತಾಂಶವನ್ನು ಪಡೆಯಿರಿ (ಅಥವಾ ಕಾಲ್ಪನಿಕ ಫಲಿತಾಂಶ). AI ಅನ್ನು ಮೊದಲು "ದೃಢೀಕರಣ-ಕೋರಿಕೆ" ದುರ್ಬಲ ಪ್ರಶ್ನೆಯೊಂದಿಗೆ ಕೇಳಿ, ನಂತರ ಮೇಲಿನ "ನಿರಾಕರಣೆ" ಬಲವಾದ ಪ್ರಾಂಪ್ಟ್ ಮಾದರಿಯೊಂದಿಗೆ. ಎರಡು ಫಲಿತಾಂಶಗಳನ್ನು ಅಕ್ಕಪಕ್ಕದಲ್ಲಿ ಇರಿಸಿ ಮತ್ತು ವ್ಯತ್ಯಾಸವನ್ನು ಬರೆಯಿರಿ: ನಿರಾಕರಣೆಯ ಪ್ರಶ್ನೆಯಿಂದ ಮಾತ್ರ ಯಾವ ಅಪಾಯಗಳನ್ನು ಬಹಿರಂಗಪಡಿಸಲಾಗಿದೆ? ನಂತರ ನಿಮ್ಮ ಔಟ್‌ಪುಟ್‌ನಲ್ಲಿ ಪ್ರತಿ ಕೀ ಕ್ಲೈಮ್‌ನ ಪಕ್ಕದಲ್ಲಿ ಎರಡು ಟಿಪ್ಪಣಿಗಳನ್ನು ಸೇರಿಸಿ: "ನಾನು ಏನನ್ನು ಪರಿಶೀಲಿಸಿದ್ದೇನೆ" ಮತ್ತು "ಅದು ತಪ್ಪಾಗಿದ್ದರೆ ಯಾವ ಸಾಕ್ಷ್ಯವನ್ನು ತೋರಿಸುತ್ತದೆ".

ಪರಿಶೀಲನಾಪಟ್ಟಿ

• [ ] ನಾನು AI ಖಂಡನೆ/ತಟಸ್ಥ ಪ್ರಶ್ನೆಗಳನ್ನು ಕೇಳಿದ್ದೇನೆ, ದೃಢೀಕರಣ-ಕೋರಿಕೆಯ ಪ್ರಶ್ನೆಗಳನ್ನಲ್ಲ.
• [ ] ಪ್ರತಿ ಮಹತ್ವದ ಫಲಿತಾಂಶಕ್ಕಾಗಿ, "ಇದು ತಪ್ಪಾಗಿದ್ದರೆ, ಯಾವ ಸಾಕ್ಷ್ಯವು ಅದನ್ನು ತೋರಿಸುತ್ತದೆ?" ನಾನು ಪ್ರಶ್ನೆಯನ್ನು ಕೇಳಿದೆ ಮತ್ತು ಸಾಕ್ಷ್ಯವನ್ನು ಹುಡುಕಿದೆ.
• [ ] ನಾನು ಔಟ್‌ಪುಟ್ ಅನ್ನು ಪರೀಕ್ಷಿಸಿದೆ, ಅದು ನಯವಾದ ಮತ್ತು ಆತ್ಮವಿಶ್ವಾಸದಿಂದ ತೋರುತ್ತಿದೆ, ಹೆಚ್ಚುವರಿ ಸಂದೇಹದಿಂದ.
• [ ] ನಾನು ಒಂದೇ ಒಂದು ದೃಢೀಕರಣ ಉದಾಹರಣೆಯೊಂದಿಗೆ ನಿಲ್ಲಲಿಲ್ಲ; ನಾನು ಅದನ್ನು ನಿರಾಕರಿಸಲು ಪ್ರಯತ್ನಿಸಿದೆ ಆದರೆ ವಿಫಲವಾಗಿದೆ.
• [ ] ನಾನು ಪುರಾವೆಗಳ ಸಮರ್ಪಕತೆ, ಸಮಂಜಸತೆ ಮತ್ತು ಅಭಿಪ್ರಾಯದಂತಹ ನನ್ನ ಸ್ವಂತ ತೀರ್ಪುಗಳನ್ನು ಮಾಡಿದ್ದೇನೆ.
• [ ] ಸಮಯದ ಒತ್ತಡದಲ್ಲಿಯೂ, ನಾನು ಖಂಡನೆಯ ಪ್ರಶ್ನೆಯನ್ನು ಬಿಟ್ಟುಬಿಡಲಿಲ್ಲ.
• [ ] ಪ್ರಮುಖ ಹಕ್ಕುಗಳ ಮುಂದೆ, "ನಾನು ಏನು ಪರಿಶೀಲಿಸಿದ್ದೇನೆ / ಅದು ತಪ್ಪಾಗಿದ್ದರೆ ಏನು ತೋರಿಸುತ್ತದೆ" ಎಂದು ನಾನು ಟಿಪ್ಪಣಿಗಳನ್ನು ಮಾಡಿದ್ದೇನೆ.