ಲಾಭಗಳು:
- ಮಾನವ ನಿಯಂತ್ರಣದ ಮೂರು ಮಾದರಿಗಳನ್ನು ಪ್ರತ್ಯೇಕಿಸುವುದು (ಲೂಪ್ನಲ್ಲಿ, ಲೂಪ್ನಲ್ಲಿ, ಆಜ್ಞೆಯಲ್ಲಿ)
- AI ಔಟ್ಪುಟ್ನಲ್ಲಿ ಪಕ್ಷಪಾತ ಮತ್ತು ತಾರತಮ್ಯದ ಅಪಾಯಗಳನ್ನು ಗುರುತಿಸುವುದು ಮತ್ತು ತಗ್ಗಿಸುವುದು
- ಪಾರದರ್ಶಕತೆ ಮತ್ತು ವಿವರಣೆಯ ತತ್ವಗಳನ್ನು ಕಾಂಕ್ರೀಟ್ ಅಪ್ಲಿಕೇಶನ್ಗಳಾಗಿ ಭಾಷಾಂತರಿಸುವುದು
AI ವ್ಯವಸ್ಥೆಯು ತಾಂತ್ರಿಕವಾಗಿ ಸಂಪೂರ್ಣವಾಗಿ ಕೆಲಸ ಮಾಡಬಹುದು ಆದರೆ ಇನ್ನೂ ತಪ್ಪಾಗಿರಬಹುದು: ಇದು ವ್ಯವಸ್ಥಿತವಾಗಿ ಗುಂಪನ್ನು ತೆಗೆದುಹಾಕಬಹುದು, ಅದರ ನಿರ್ಧಾರದ ಕಾರಣವನ್ನು ವಿವರಿಸಲು ವಿಫಲವಾಗಬಹುದು ಅಥವಾ ಪ್ರಶ್ನಿಸದೆ ಜನರು ಅದನ್ನು ಒಪ್ಪಿಕೊಳ್ಳುವಂತೆ ಮಾಡಬಹುದು. ಈ ಘಟಕದಲ್ಲಿ, ನಾವು "ಮೃದು" ಆದರೆ ಆಡಳಿತದ ಅತ್ಯಂತ ನಿರ್ಣಾಯಕ ಭಾಗವನ್ನು-ಮಾನವ ನಿಯಂತ್ರಣ, ಪಕ್ಷಪಾತ ನಿರ್ವಹಣೆ, ಪಾರದರ್ಶಕತೆ ಮತ್ತು ನೈತಿಕತೆಯನ್ನು ಕಾಂಕ್ರೀಟ್ ಅಭ್ಯಾಸಗಳಾಗಿ ಭಾಷಾಂತರಿಸುತ್ತೇವೆ. ಗುರಿಯು "AI ಅನ್ನು ನಂಬಬೇಡಿ" ನಂತಹ ಅಸ್ಪಷ್ಟ ಘೋಷಣೆಗಳಲ್ಲ; ಅವು ಔಟ್ಪುಟ್ ಅನ್ನು ಆಡಿಟ್ ಮಾಡುವುದು, ಪಕ್ಷಪಾತವನ್ನು ಕಡಿಮೆ ಮಾಡುವುದು ಮತ್ತು ಪಾರದರ್ಶಕತೆಯನ್ನು ಹೇಗೆ ಸ್ಥಾಪಿಸುವುದು ಎಂಬುದನ್ನು ತೋರಿಸುವ ಕಾರ್ಯವಿಧಾನಗಳು ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತವೆ.
ಮಾನವ ನಿಯಂತ್ರಣದ ಮೂರು ಮಾದರಿಗಳು
ಮಾನವ ಮೇಲ್ವಿಚಾರಣೆ ಎಂದರೆ AI ಮಾಡಿದ ನಿರ್ಧಾರಗಳ ಮೇಲೆ ಮಾನವನು ನಿಯಂತ್ರಣವನ್ನು ಉಳಿಸಿಕೊಳ್ಳುತ್ತಾನೆ. ಮೂರು ಮೂಲಭೂತ ಮಾದರಿಗಳಿವೆ ಮತ್ತು ಅಪಾಯದ ಪ್ರಕಾರ ಸರಿಯಾದ ಮಾದರಿಯನ್ನು ಆಯ್ಕೆಮಾಡುವುದು ಅವಶ್ಯಕ.
ಮಾದರಿ
ಅರ್ಥ
ಅದು ಎಲ್ಲಿ ಹೊಂದಿಕೊಳ್ಳುತ್ತದೆ
ಕುಣಿಕೆಯಲ್ಲಿ ಮಾನವ
ಒಬ್ಬ ವ್ಯಕ್ತಿಯು ಪ್ರತಿ ನಿರ್ಧಾರವನ್ನು ಅನುಮೋದಿಸುತ್ತಾನೆ
ಹೆಚ್ಚಿನ ಅಪಾಯ, ಪರಿಣಾಮಕಾರಿ ನಿರ್ಧಾರಗಳು
ಲೂಪ್ ಮೇಲೆ ಮಾನವ
AI ಕೆಲಸ ಮಾಡುತ್ತದೆ, ಮಾನವರು ಮೇಲ್ವಿಚಾರಣೆ ಮಾಡುತ್ತಾರೆ ಮತ್ತು ಅಗತ್ಯವಿದ್ದರೆ ಮಧ್ಯಪ್ರವೇಶಿಸುತ್ತಾರೆ
ಮಧ್ಯಮ ಅಪಾಯ, ಹೆಚ್ಚಿನ ಪ್ರಮಾಣದ ವಹಿವಾಟುಗಳು
ಆಜ್ಞೆಯಲ್ಲಿರುವ ಮನುಷ್ಯ
ಮಾನವನು ವ್ಯವಸ್ಥೆಯನ್ನು ವಿನ್ಯಾಸಗೊಳಿಸುತ್ತಾನೆ, ಅದರ ಮಿತಿಗಳನ್ನು ಹೊಂದಿಸುತ್ತಾನೆ, ಅದನ್ನು ಮುಚ್ಚಬಹುದು
ಒಟ್ಟಾರೆ ಆಡಳಿತ ಮಟ್ಟ
ವ್ಯಕ್ತಿಯ ಮೇಲೆ ಗಮನಾರ್ಹವಾಗಿ ಪರಿಣಾಮ ಬೀರುವ ನಿರ್ಧಾರಗಳಿಗೆ (ಉದ್ಯೋಗ, ಕ್ರೆಡಿಟ್, ಹೆಲ್ತ್ಕೇರ್), ಹ್ಯೂಮನ್-ಇನ್-ದ-ಲೂಪ್ ಮಾದರಿಗೆ ಆದ್ಯತೆ ನೀಡಲಾಗುತ್ತದೆ: AI ಸಲಹೆಯನ್ನು ನೀಡುತ್ತದೆ, ಆದರೆ ಸಮರ್ಥ ವ್ಯಕ್ತಿಯು ಅಂತಿಮ ನಿರ್ಧಾರವನ್ನು ತೆಗೆದುಕೊಳ್ಳುತ್ತಾನೆ. "AI ಹೀಗೆ ಹೇಳಿದೆ" ಎಂದಿಗೂ ಕ್ಷಮಿಸಿಲ್ಲ; ಜವಾಬ್ದಾರಿ ಯಾವಾಗಲೂ ವ್ಯಕ್ತಿಯ ಮೇಲಿರುತ್ತದೆ.
ಗಮನ: ಮಾನವ ನಿಯಂತ್ರಣವು "ಕಾಗದದ ಮೇಲೆ" ಇರುವುದು ಸಾಕಾಗುವುದಿಲ್ಲ. ಮಾನವ ಸ್ವಯಂಚಾಲಿತವಾಗಿ AI ಸಲಹೆಯನ್ನು ಅನುಮೋದಿಸಿದರೆ (ರಬ್ಬರ್-ಸ್ಟಾಂಪಿಂಗ್), ನಿಜವಾದ ನಿಯಂತ್ರಣವಿಲ್ಲ. ಲೆಕ್ಕಪರಿಶೋಧನೆಯು ಅರ್ಥಪೂರ್ಣವಾಗಿರಲು, ಒಬ್ಬರು ತಾರ್ಕಿಕತೆಯನ್ನು ನೋಡಬೇಕು, ಅದನ್ನು ಪ್ರಶ್ನಿಸಬೇಕು ಮತ್ತು ನಿಜವಾಗಿಯೂ "ಇಲ್ಲ" ಎಂದು ಹೇಳಬೇಕು.
ಪೂರ್ವಾಗ್ರಹ ಮತ್ತು ತಾರತಮ್ಯದ ಅಪಾಯ
ಪಕ್ಷಪಾತವು AI ವ್ಯವಸ್ಥಿತವಾಗಿ ಕೆಲವು ಗುಂಪುಗಳಿಗೆ ಅನಾನುಕೂಲಗಳು ಅಥವಾ ಅನುಕೂಲಗಳನ್ನು ನೀಡುತ್ತದೆ. ಇದರ ಮೂಲವು ಸಾಮಾನ್ಯವಾಗಿ ತರಬೇತಿ ಡೇಟಾವಾಗಿದೆ: ಐತಿಹಾಸಿಕ ಡೇಟಾದಲ್ಲಿ ತಾರತಮ್ಯವಿದ್ದರೆ, AI ಅದನ್ನು ಕಲಿಯುತ್ತದೆ ಮತ್ತು ನಿರ್ವಹಿಸುತ್ತದೆ - ಅದನ್ನು ಅಳೆಯುತ್ತದೆ.
ಪಕ್ಷಪಾತವನ್ನು ಕಡಿಮೆ ಮಾಡಲು ಪ್ರಾಯೋಗಿಕ ಹಂತಗಳು:
- ಸೂಕ್ಷ್ಮ ವ್ಯತ್ಯಾಸಗಳನ್ನು ಪರಿಶೀಲಿಸಿ: ನಿರ್ಧಾರದ ಮೇಲೆ ಲಿಂಗ, ವಯಸ್ಸು, ಜನಾಂಗೀಯತೆಯಂತಹ ಕ್ಷೇತ್ರಗಳ ಪ್ರಭಾವವನ್ನು ಪರಿಶೀಲಿಸಿ.
- ಗುಂಪುಗಳ ಮೂಲಕ ಪರೀಕ್ಷಾ ಫಲಿತಾಂಶಗಳು: ಸಿಸ್ಟಮ್ ವಿಭಿನ್ನ ಗುಂಪುಗಳಲ್ಲಿ ವಿಭಿನ್ನ ನಿರಾಕರಣೆ/ಸ್ವೀಕಾರ ದರಗಳನ್ನು ಉತ್ಪಾದಿಸುತ್ತದೆಯೇ?
- ಪ್ರಾಕ್ಸಿ ವೇರಿಯಬಲ್ಗಳ ಬಗ್ಗೆ ಎಚ್ಚರದಿಂದಿರಿ: "ನೆರೆಹೊರೆ" ಅಥವಾ "ಶಾಲೆ" ಯಂತಹ ಕ್ಷೇತ್ರಗಳು ಜನಾಂಗೀಯ/ವರ್ಗದ ವ್ಯತ್ಯಾಸವನ್ನು ಸೂಚ್ಯವಾಗಿ ತಿಳಿಸಬಹುದು.
- ನಿಯಮಿತ ಮೇಲ್ವಿಚಾರಣೆಯನ್ನು ಸ್ಥಾಪಿಸಿ: ಪಕ್ಷಪಾತವನ್ನು ನಿರಂತರವಾಗಿ ಪರೀಕ್ಷಿಸಲಾಗುತ್ತದೆ, ಕೇವಲ ಒಮ್ಮೆ ಅಲ್ಲ; ಡೇಟಾ ಬದಲಾದಂತೆ ಅದು ಹಿಂತಿರುಗಬಹುದು.
ಮೂರು ಸಣ್ಣ ಪ್ರಕರಣಗಳು
ಪ್ರಕರಣ 1 - ರಬ್ಬರ್ ಸ್ಟಾಂಪ್. ಒಂದು ಬ್ಯಾಂಕಿನಲ್ಲಿ, ಸಾಲದ ಅಧಿಕಾರಿಗಳು AI ಸ್ಕೋರ್ ಅನ್ನು ಪರಿಶೀಲಿಸದೆಯೇ ಅನುಮೋದಿಸುತ್ತಾರೆ; "ಸಿಸ್ಟಮ್ ಈಗಾಗಲೇ ಅದನ್ನು ಲೆಕ್ಕಾಚಾರ ಮಾಡಿದೆ" ಎಂದು ಅವರು ಹೇಳುತ್ತಾರೆ. 500 ಸಲ್ಲಿಕೆಗಳಲ್ಲಿ 498 ರಲ್ಲಿ, ಮಾನವನು AI ಯಂತೆಯೇ ನಿಖರವಾದ ನಿರ್ಧಾರವನ್ನು ತೆಗೆದುಕೊಂಡಿದ್ದಾನೆ ಎಂದು ಲೆಕ್ಕಪರಿಶೋಧನೆ ತೋರಿಸುತ್ತದೆ - ಆದ್ದರಿಂದ ನಿಜವಾದ ವಿಮರ್ಶೆ ಇಲ್ಲ. ಪರಿಹಾರ: ಜನರು ತಾರ್ಕಿಕತೆಯನ್ನು ನೋಡಬೇಕು, ನಿರ್ಧಾರವನ್ನು ಸ್ವಲ್ಪ ಮಟ್ಟಿಗೆ ಊಹಿಸಿ, ಮತ್ತು "ಏಕೆ ಒಪ್ಪುತ್ತೀರಿ/ಅಸಮ್ಮತಿಪಡುತ್ತಾರೆ" ಟಿಪ್ಪಣಿಯ ಅಗತ್ಯವಿರುತ್ತದೆ.
ಪ್ರಕರಣ 2 - ಸೂಚ್ಯ ಪಕ್ಷಪಾತ. ನೇಮಕಾತಿ ಮಾಡುವ AI ಮಹಿಳಾ ಅಭ್ಯರ್ಥಿಗಳಿಗೆ ಲಿಂಗವನ್ನು ಬಳಸದಿದ್ದರೂ ಕಡಿಮೆ ಅಂಕಗಳನ್ನು ನೀಡುತ್ತದೆ. ಎಲ್ಲಿಂದ? ಹಿಂದಿನ ದತ್ತಾಂಶವು ನಿರ್ದಿಷ್ಟ ಸ್ಥಾನದಲ್ಲಿ ಹೆಚ್ಚಾಗಿ ಪುರುಷರನ್ನು ಒಳಗೊಂಡಿರುವುದರಿಂದ, ಮಾದರಿಯು "ತಡೆರಹಿತ ವೃತ್ತಿ" ನಂತಹ ಪ್ರಾಕ್ಸಿ ವೇರಿಯೇಬಲ್ಗಳ ಮೂಲಕ ಪರೋಕ್ಷ ತಾರತಮ್ಯವನ್ನು ಕಲಿತಿದೆ. ಗುಂಪು ಆಧಾರಿತ ಪರೀಕ್ಷೆಯು ಇದನ್ನು ಬಹಿರಂಗಪಡಿಸುತ್ತದೆ; ತಂಡವು ಬದಲಿ ಅಸ್ಥಿರಗಳನ್ನು ಹೊರತೆಗೆಯುತ್ತದೆ ಮತ್ತು ಫಲಿತಾಂಶವನ್ನು ಮೇಲ್ವಿಚಾರಣೆ ಮಾಡುತ್ತದೆ.
ಪ್ರಕರಣ 3 - ಪಾರದರ್ಶಕತೆಯೊಂದಿಗೆ ನಂಬಿಕೆ. ಅದರ AI-ಚಾಲಿತ ಹಾನಿ ಮೌಲ್ಯಮಾಪನದಲ್ಲಿ, "ನಿರ್ಧಾರವು AI-ಚಾಲಿತವಾಗಿದೆ, ಅವರು ಮನವಿ ಮಾಡಬಹುದು ಮತ್ತು ಮಾನವ ವಿಮರ್ಶೆಯನ್ನು ವಿನಂತಿಸಬಹುದು" ಎಂದು ಪ್ರತಿ ಗ್ರಾಹಕರಿಗೆ ತಿಳಿಸುತ್ತದೆ. ಗ್ರಾಹಕರು ಪ್ರಕ್ರಿಯೆಯನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳುತ್ತಾರೆ ಮತ್ತು ನಂಬುವ ಕಾರಣ ಆಕ್ಷೇಪಣೆ ದರವು ನಿರೀಕ್ಷೆಗಿಂತ ಕಡಿಮೆಯಾಗಿದೆ. ಅಪಾಯವನ್ನು ಕಡಿಮೆ ಮಾಡುವಾಗ ಪಾರದರ್ಶಕತೆ ವಿಶ್ವಾಸವನ್ನು ಹೆಚ್ಚಿಸುತ್ತದೆ.
ಪಾರದರ್ಶಕತೆ ಮತ್ತು ವಿವರಣೆ
ಪಾರದರ್ಶಕತೆ ಎಂದರೆ AI ಕ್ರಿಯೆಯಲ್ಲಿದೆ ಮತ್ತು ಅದು ಹೇಗೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ ಎಂಬುದನ್ನು ಸಂಬಂಧಿತ ಜನರಿಗೆ ಸ್ಪಷ್ಟಪಡಿಸುವುದು. ವಿವರಣೆ ಎಂದರೆ ನಿರ್ಧಾರದ ಕಾರಣವನ್ನು ಅರ್ಥವಾಗುವ ರೀತಿಯಲ್ಲಿ ವಿವರಿಸಲು ಸಾಧ್ಯವಾಗುತ್ತದೆ. ಕಾಂಕ್ರೀಟ್ ಅಪ್ಲಿಕೇಶನ್ಗಳು:
- ವ್ಯಕ್ತಿಯೊಂದಿಗೆ AI ಸಂವಹನ ನಡೆಸುವ ಕುರಿತು "ನೀವು AI ಜೊತೆ ಮಾತನಾಡುತ್ತಿದ್ದೀರಿ" ಅಧಿಸೂಚನೆ.
- "ಈ ನಿರ್ಧಾರವು ಈ ಕೆಳಗಿನ ಅಂಶಗಳನ್ನು ಆಧರಿಸಿದೆ" ಸ್ವಯಂಚಾಲಿತ ನಿರ್ಧಾರಗಳಲ್ಲಿ ವಿವರಣೆ.
- ಮನವಿ ಮಾಡಲು ಮತ್ತು ಮಾನವ ವಿಮರ್ಶೆಗೆ ವಿನಂತಿಸಲು ಮಾರ್ಗವನ್ನು ಸ್ಪಷ್ಟವಾಗಿ ಪ್ರಸ್ತುತಪಡಿಸಿ.
- ಆಂತರಿಕ ತಂಡಗಳಿಗೆ: ಮಾದರಿ ಏನು ಮಾಡುತ್ತದೆ ಎಂಬುದರ ದಾಖಲಾತಿ ಮತ್ತು ರೆಕಾರ್ಡಿಂಗ್.
ಸುಳಿವು: AI ನಿರ್ಧಾರವನ್ನು ಕೇಳಿ "ಈ ನಿರ್ಧಾರದ ಮೇಲೆ ಪ್ರಭಾವ ಬೀರಿದ ಪ್ರಮುಖ ಮೂರು ಅಂಶಗಳು ಯಾವುವು?" ಎಂಬ ಪ್ರಶ್ನೆಯೊಂದಿಗೆ ಪರೀಕ್ಷಿಸಿ. ವ್ಯವಸ್ಥೆಯು ಇದನ್ನು ಅರ್ಥವಾಗುವಂತೆ ಮಾಡಲು ಸಾಧ್ಯವಾಗದಿದ್ದರೆ ಮತ್ತು ನಿರ್ಧಾರವು ವ್ಯಕ್ತಿಯ ಮೇಲೆ ಗಮನಾರ್ಹವಾಗಿ ಪರಿಣಾಮ ಬೀರಿದರೆ, ಆ ವ್ಯವಸ್ಥೆಯು ಇನ್ನೂ ಜವಾಬ್ದಾರಿಯುತ ಬಳಕೆಗೆ ಸಿದ್ಧವಾಗಿಲ್ಲ.
ಆಟೋಮೇಷನ್ ಪಕ್ಷಪಾತ: ಒಬ್ಬರ ಸ್ವಂತ ಬಲೆ
ಪಾರದರ್ಶಕತೆ ಮತ್ತು ಮಾನವ ಮೇಲ್ವಿಚಾರಣೆಯನ್ನು ಸ್ಥಾಪಿಸಿದರೂ ಸಹ, ಮಾನವನ ಕಡೆಯಿಂದ ಕಪಟ ಅಪಾಯವಿದೆ: ಯಾಂತ್ರೀಕೃತಗೊಂಡ ಪಕ್ಷಪಾತ. ಜನರು ತಮ್ಮ ಸ್ವಂತ ನಿರ್ಣಯಕ್ಕಿಂತ ಯಂತ್ರದ ಉತ್ಪಾದನೆಯನ್ನು ಹೆಚ್ಚು ನಂಬುವ ಪ್ರವೃತ್ತಿ ಇದು. ಆನ್-ಸ್ಕ್ರೀನ್ AI ಪ್ರಸ್ತಾವನೆಯು "ವಸ್ತುನಿಷ್ಠ ಮತ್ತು ಲೆಕ್ಕಾಚಾರ" ಎಂದು ತೋರುವ ಕಾರಣ, ಒಬ್ಬರು ಅದನ್ನು ಪ್ರಶ್ನಿಸದೆಯೇ ಸ್ವೀಕರಿಸಲು ಪ್ರಚೋದಿಸುತ್ತಾರೆ - ಇದು ರಬ್ಬರ್ ಸ್ಟಾಂಪ್ನ ಮಾನಸಿಕ ಮೂಲವಾಗಿದೆ.
ಇದನ್ನು ಕಡಿಮೆ ಮಾಡಲು ಕಾಂಕ್ರೀಟ್ ಮಾರ್ಗಗಳಿವೆ. ಮೊದಲು ಪ್ರತಿ-ಅಭಿಪ್ರಾಯವನ್ನು ಪ್ರೋತ್ಸಾಹಿಸಿ: ನಿರ್ಧಾರವನ್ನು ಅನುಮೋದಿಸುವ ವ್ಯಕ್ತಿಯನ್ನು ಕೇಳಿ "ನಾನು AI ಅನ್ನು ಏಕೆ ಒಪ್ಪುವುದಿಲ್ಲ?" ಪ್ರಶ್ನೆಯ ಬಗ್ಗೆ ಯೋಚಿಸಲು ಅವನನ್ನು ಕೇಳಿ. ನಂತರ ವಿಶ್ವಾಸಾರ್ಹ ಸ್ಕೋರ್ ಅನ್ನು ತೋರಿಸಿ: AI ಎಷ್ಟು ವಿಶ್ವಾಸ ಹೊಂದಿದೆ ಎಂಬುದನ್ನು ಸೂಚಿಸಿ; ಕಡಿಮೆ ವಿಶ್ವಾಸಾರ್ಹ ಔಟ್ಪುಟ್ಗಳನ್ನು ಪ್ರತ್ಯೇಕವಾಗಿ ಗುರುತಿಸಿ. ನಂತರ ಸಂಘರ್ಷದ ಎಚ್ಚರಿಕೆಯನ್ನು ಹೊಂದಿಸಿ: AI ಶಿಫಾರಸು ಸಂಸ್ಥೆಯ ನಿಯಮ ಅಥವಾ ಮಾನವನಿಗೆ ಲಭ್ಯವಿರುವ ಡೇಟಾವನ್ನು ಉಲ್ಲಂಘಿಸಿದರೆ, ಸಿಸ್ಟಮ್ ಇದನ್ನು ಹೈಲೈಟ್ ಮಾಡುತ್ತದೆ. ಅಂತಿಮವಾಗಿ, ನಿರ್ಣಾಯಕ ನಿರ್ಧಾರಗಳಿಗೆ ಎರಡು ಮಾನವ ತತ್ವಗಳನ್ನು ಅನ್ವಯಿಸಿ; ಒಬ್ಬ ಅನುಮೋದಕನು ಯಾಂತ್ರೀಕೃತಗೊಂಡ ಪಕ್ಷಪಾತಕ್ಕೆ ಹೆಚ್ಚು ಒಳಗಾಗುತ್ತಾನೆ.
ಎಚ್ಚರಿಕೆ: "ಮಾನವ ಅನುಮೋದನೆ ಇದೆ" ಎಂದು ಹೇಳುವುದು ಯಾಂತ್ರೀಕೃತಗೊಂಡ ಪಕ್ಷಪಾತದಿಂದ ಮುಕ್ತವಾಗಿರುವುದು ಎಂದರ್ಥವಲ್ಲ. AI ಅನ್ನು ಪ್ರಶ್ನಿಸಲು ಮಾನವನು ಅಧಿಕಾರ, ಸಮಯ ಮತ್ತು ಸರಿಯಾದ ಮಾಹಿತಿಯನ್ನು ಹೊಂದಿರಬೇಕು. 3 ಸೆಕೆಂಡುಗಳಲ್ಲಿ 200 ನಿರ್ಧಾರಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳಲು ಅನುಮೋದಕನನ್ನು ಒತ್ತಾಯಿಸುವ ವ್ಯವಸ್ಥೆಯು ನಿಜವಾದ ಮಾನವ ನಿಯಂತ್ರಣವನ್ನು ನೀಡುವುದಿಲ್ಲ.
ನಕಲು ಮಾಡಬಹುದಾದ ಟೆಂಪ್ಲೇಟ್ಗಳು
ಟೆಂಪ್ಲೇಟ್ 1 — ಮಾನವ ನಿಯಂತ್ರಣ ಮಾದರಿ ಆಯ್ಕೆ: "ಈ ಕೆಳಗಿನ AI ಬಳಕೆಗೆ ಮಾನವ ನಿಯಂತ್ರಣ ಮಾದರಿಯು ಸೂಕ್ತವಾಗಿದೆ [ಬಳಕೆಯನ್ನು ವಿವರಿಸಿ]: ಲೂಪ್ನಲ್ಲಿ, ಲೂಪ್ನಲ್ಲಿ, ಅಥವಾ ಆಜ್ಞೆಯಲ್ಲಿ? ಸಮರ್ಥನೆಯೊಂದಿಗೆ ಶಿಫಾರಸು ಮಾಡಿ, ಅಪಾಯ ಮತ್ತು ವ್ಯಕ್ತಿಯ ಪ್ರಭಾವವನ್ನು ಪರಿಗಣಿಸಿ. ರಬ್ಬರ್ ಸ್ಟಾಂಪ್ ಅಪಾಯವನ್ನು ತಪ್ಪಿಸಲು ನಾನು ಯಾವ ನಿಯಂತ್ರಣವನ್ನು ಸೇರಿಸಬೇಕು ಎಂಬುದನ್ನು ಸೂಚಿಸಿ."
ಟೆಂಪ್ಲೇಟ್ 2 — ಪಕ್ಷಪಾತ ಪರೀಕ್ಷೆಯ ಯೋಜನೆ: "ಕೆಳಗಿನ ನಿರ್ಧಾರ ಬೆಂಬಲ AI ಗಾಗಿ [ಬಳಕೆಯನ್ನು ವಿವರಿಸಿ] ಪಕ್ಷಪಾತ ಪರೀಕ್ಷೆಯ ಯೋಜನೆಯನ್ನು ರೂಪಿಸಿ: ನಾನು ಯಾವ ಗುಂಪುಗಳನ್ನು ಹೋಲಿಸಬೇಕು, ನಾನು ಯಾವ ಮೆಟ್ರಿಕ್ ಅನ್ನು ಅಳೆಯಬೇಕು (ನಿರಾಕರಣೆ/ಸ್ವೀಕಾರ ದರ, ಇತ್ಯಾದಿ), ನಾನು ಯಾವ ಬದಲಿ ಅಸ್ಥಿರಗಳನ್ನು ನೋಡಬೇಕು, ಎಷ್ಟು ಬಾರಿ ನಾನು ಪರೀಕ್ಷೆಯನ್ನು ಪುನರಾವರ್ತಿಸಬೇಕು? ಹಂತ ಹಂತವಾಗಿ ಬರೆಯಿರಿ."
ಟೆಂಪ್ಲೇಟ್ 3 — ನಿರ್ಧಾರದ ವಿವರಣೆ ಪಠ್ಯ: "ವೈಯಕ್ತೀಕರಿಸಿದ ಸ್ವಯಂಚಾಲಿತ ನಿರ್ಧಾರಕ್ಕಾಗಿ ಸರಳ ವಿವರಣೆ ಪಠ್ಯವನ್ನು ಬರೆಯಿರಿ: ನಿರ್ಧಾರವು AI-ಚಾಲಿತವಾಗಿದೆಯೇ, ನಿರ್ಧಾರದ ಮೇಲೆ ಪ್ರಭಾವ ಬೀರುವ ಪ್ರಮುಖ ಅಂಶಗಳು, ಮಾನವ ವಿಮರ್ಶೆಗೆ ಮನವಿ ಮಾಡಲು ಮತ್ತು ವಿನಂತಿಸಲು ಒಂದು ಮಾರ್ಗವಾಗಿದೆ. ಆರೋಪವಲ್ಲದ, ಗೌರವಾನ್ವಿತ ಧ್ವನಿ, 120 ಪದಗಳು ಅಥವಾ ಕಡಿಮೆ."
ಟೆಂಪ್ಲೇಟ್ 4 — ನೈತಿಕ ವಿಮರ್ಶಾ ಪರಿಶೀಲನಾಪಟ್ಟಿ: "AI ಬಳಕೆಯನ್ನು ಪ್ರಕಟಿಸುವ ಮೊದಲು ನೀತಿಶಾಸ್ತ್ರದ ಪರಿಶೀಲನಾ ಪಟ್ಟಿಯನ್ನು ತಯಾರಿಸಿ: ನ್ಯಾಯೋಚಿತತೆ/ತಾರತಮ್ಯ, ಪಾರದರ್ಶಕತೆ, ಮಾನವ ನಿಯಂತ್ರಣ, ಗೌಪ್ಯತೆ, ಭದ್ರತೆ, ಹೊಣೆಗಾರಿಕೆ. ಪ್ರತಿ ಶೀರ್ಷಿಕೆಯ ಅಡಿಯಲ್ಲಿ ಉತ್ತರಿಸಲು 1-2 ಸ್ಪಷ್ಟ ಪ್ರಶ್ನೆಗಳನ್ನು ಸೇರಿಸಿ."
ದುರ್ಬಲ ಪ್ರಾಂಪ್ಟ್ / ಬಲವಾದ ಪ್ರಾಂಪ್ಟ್
ದುರ್ಬಲ: “ಈ ನೇಮಕಾತಿ AI ನ್ಯಾಯೋಚಿತವೇ?”-> ಮಾದರಿಯು 'ಇದು ನ್ಯಾಯೋಚಿತವಾಗಿರಬೇಕು' ಎಂಬ ಸಾಮಾನ್ಯ ಉತ್ತರವನ್ನು ನೀಡುತ್ತದೆ; ಪರೀಕ್ಷಿಸಬಹುದಾದ ವಿಧಾನ ಮತ್ತು ಪಕ್ಷಪಾತ ಮಾಪನವನ್ನು ಒದಗಿಸುವುದಿಲ್ಲ. STRONG: "ಈ ನೇಮಕಾತಿ ಬೆಂಬಲ AI ಗಾಗಿ ಪಕ್ಷಪಾತ ಪರೀಕ್ಷೆಯ ಯೋಜನೆಯನ್ನು ಹೊಂದಿಸಿ: ಲಿಂಗ ಮತ್ತು ವಯಸ್ಸಿನ ಗುಂಪುಗಳಾದ್ಯಂತ ಸ್ವೀಕಾರ ದರಗಳನ್ನು ಹೋಲಿಸುವ ವಿಧಾನ, ಪರಿಗಣಿಸಲು ಪ್ರಾಕ್ಸಿ ವೇರಿಯಬಲ್ಗಳು, ಸ್ವೀಕಾರಾರ್ಹ ವ್ಯತ್ಯಾಸದ ಮಿತಿ ಮತ್ತು ಮಾನಿಟರಿಂಗ್ ಆವರ್ತನ. ಮಾನವನು ಅಂತಿಮ ನಿರ್ಧಾರವನ್ನು ತೆಗೆದುಕೊಳ್ಳುತ್ತಾನೆ ಎಂದು ಖಚಿತಪಡಿಸಿಕೊಳ್ಳಲು ನಿಯಂತ್ರಣವನ್ನು ಸೇರಿಸಿ." -> ಮಾದರಿಯು ಅಳೆಯಬಹುದಾದ, ಪುನರಾವರ್ತಿಸಬಹುದಾದ ನ್ಯಾಯೋಚಿತ ಕಾರ್ಯವಿಧಾನವನ್ನು ಉತ್ಪಾದಿಸುತ್ತದೆ.
ಸಾಮಾನ್ಯ ತಪ್ಪುಗಳು
- ಮಾನವ ನಿಯಂತ್ರಣವನ್ನು "ಕಾಗದದ ಮೇಲೆ" ಬಿಡುವುದು ಮತ್ತು AI ಶಿಫಾರಸನ್ನು ಸ್ವಯಂಚಾಲಿತವಾಗಿ ಅನುಮೋದಿಸುವುದು (ರಬ್ಬರ್ ಸ್ಟ್ಯಾಂಪ್).
- ವ್ಯಕ್ತಿಯನ್ನು ಗಮನಾರ್ಹವಾಗಿ ಪರಿಣಾಮ ಬೀರುವ ನಿರ್ಧಾರಗಳನ್ನು ಲೂಪ್ನಲ್ಲಿ ಬದಲಿಗೆ ಮೇಲ್ವಿಚಾರಣೆ ಮಾಡದೆ ಬಿಡುವುದು.
- "ನಾನು ಸೂಕ್ಷ್ಮ ವೇರಿಯಬಲ್ ಅನ್ನು ಅಳಿಸಿದ್ದೇನೆ" ಎಂಬ ಕಾರಣಕ್ಕಾಗಿ ಪಕ್ಷಪಾತವನ್ನು ಪರಿಹರಿಸಲಾಗಿದೆ ಎಂದು ಪರಿಗಣಿಸಿ; ಪ್ರಾಕ್ಸಿ ವೇರಿಯೇಬಲ್ಗಳನ್ನು ಬಿಟ್ಟುಬಿಡುವುದು.
- ಪಕ್ಷಪಾತವನ್ನು ಒಮ್ಮೆ ಪರೀಕ್ಷಿಸುವುದು ಮತ್ತು ಅದನ್ನು ನಿರಂತರವಾಗಿ ಮೇಲ್ವಿಚಾರಣೆ ಮಾಡುವುದಿಲ್ಲ.
- "ಇದು ತಾಂತ್ರಿಕ ವಿವರವಾಗಿದೆ, ಬಳಕೆದಾರರಿಗೆ ಅರ್ಥವಾಗುವುದಿಲ್ಲ" ಎಂಬ ಕಾರಣದಿಂದ ಪಾರದರ್ಶಕತೆಯನ್ನು ಬಿಡಲಾಗುತ್ತಿದೆ.
- ನಿರ್ಣಾಯಕ ನಿರ್ಧಾರಗಳಲ್ಲಿ ನಿರ್ಧಾರದ ಕಾರಣವನ್ನು ವಿವರಿಸಲು ಸಾಧ್ಯವಾಗದ ವ್ಯವಸ್ಥೆಯನ್ನು ಬಳಸುವುದು.
- ಪ್ರಕಟಣೆಯ ನಂತರ ನೈತಿಕ ಮೌಲ್ಯಮಾಪನವನ್ನು ಬಿಟ್ಟು, "ನಾವು ನಂತರ ನೋಡೋಣ" ಎಂದು ಹೇಳುವುದು.
ಸಾರಾಂಶದಲ್ಲಿ
- ಮಾನವ ನಿಯಂತ್ರಣವನ್ನು ಮೂರು ಮಾದರಿಗಳಲ್ಲಿ ಅಳವಡಿಸಲಾಗಿದೆ; ಜನರ ಮೇಲೆ ಪರಿಣಾಮ ಬೀರುವ ನಿರ್ಧಾರಗಳಲ್ಲಿ, ಜನರು ಚಕ್ರದಲ್ಲಿ ಆದ್ಯತೆ ನೀಡುತ್ತಾರೆ.
- ನಿಯಂತ್ರಣ ಅರ್ಥಪೂರ್ಣವಾಗಿರಬೇಕು; ರಬ್ಬರ್ ಸ್ಟಾಂಪ್ (ಸ್ವಯಂ-ಅನುಮೋದನೆ) ನಿಜವಾದ ಆಡಿಟ್ ಅಲ್ಲ.
- ಪಕ್ಷಪಾತವು ಸಾಮಾನ್ಯವಾಗಿ ತರಬೇತಿ ಡೇಟಾದಿಂದ ಬರುತ್ತದೆ; ಸೂಕ್ಷ್ಮ ಮತ್ತು ಬದಲಿ ಅಸ್ಥಿರಗಳನ್ನು ಪರೀಕ್ಷಿಸಬೇಕು ಮತ್ತು ನಿರಂತರವಾಗಿ ಮೇಲ್ವಿಚಾರಣೆ ಮಾಡಬೇಕು.
- ಪಾರದರ್ಶಕತೆ ಮತ್ತು ವಿವರಣೆಯು ಬಳಕೆದಾರರಿಗೆ AI ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತಿದೆ ಮತ್ತು ನಿರ್ಧಾರದ ಕಾರಣವನ್ನು ಸ್ಪಷ್ಟವಾಗಿ ಪ್ರಸ್ತುತಪಡಿಸುವ ಅಗತ್ಯವಿದೆ.
- ಪ್ರಕಟಣೆಯ ಮೊದಲು ನೈತಿಕ ವಿಮರ್ಶೆ ಸಂಭವಿಸುತ್ತದೆ; ಜವಾಬ್ದಾರಿಯು ಯಾವಾಗಲೂ ಮಾನವನ ಮೇಲಿರುತ್ತದೆ, "AI ಹಾಗೆ ಹೇಳಿದೆ" ಯಾವುದೇ ಕ್ಷಮಿಸಿಲ್ಲ.
ಅಪ್ಲಿಕೇಶನ್ ಕಾರ್ಯ
ನಿಮ್ಮ ಸಂಸ್ಥೆಯಲ್ಲಿರುವ ಜನರ ಮೇಲೆ ಪರಿಣಾಮ ಬೀರುವ AI ನಿರ್ಧಾರ ಪ್ರಕ್ರಿಯೆಯನ್ನು ಆಯ್ಕೆಮಾಡಿ (ಉದಾಹರಣೆಗೆ, ಅಪ್ಲಿಕೇಶನ್ ಮೌಲ್ಯಮಾಪನ). ಸಮರ್ಥನೆಯೊಂದಿಗೆ ಈ ಪ್ರಕ್ರಿಯೆಗೆ ಸೂಕ್ತವಾದ ಮಾನವ ನಿಯಂತ್ರಣ ಮಾದರಿಯನ್ನು ನಿರ್ಧರಿಸಿ ಮತ್ತು ರಬ್ಬರ್ ಸ್ಟಾಂಪಿಂಗ್ ಅನ್ನು ತಡೆಯಲು ಕಾಂಕ್ರೀಟ್ ನಿಯಂತ್ರಣವನ್ನು ವಿನ್ಯಾಸಗೊಳಿಸಿ (ಉದಾ. ಸಮರ್ಥನೆಯನ್ನು ನೋಡುವ ಅವಶ್ಯಕತೆ, ಮಾದರಿ ವಿಮರ್ಶೆ). ನಂತರ ಪಕ್ಷಪಾತ ಪರೀಕ್ಷೆಯ ಯೋಜನೆಯನ್ನು ಬರೆಯಿರಿ: ನೀವು ಯಾವ ಗುಂಪುಗಳನ್ನು ಹೋಲಿಸುತ್ತೀರಿ, ಯಾವ ಮೆಟ್ರಿಕ್, ಎಷ್ಟು ಬಾರಿ ಮತ್ತು ಯಾವ ಪ್ರಾಕ್ಸಿ ವೇರಿಯಬಲ್ಗಳಿಗೆ ನೀವು ಗಮನ ನೀಡುತ್ತೀರಿ ಎಂಬುದನ್ನು ನಿರ್ದಿಷ್ಟಪಡಿಸಿ. ಅಂತಿಮವಾಗಿ, ಈ ಪ್ರಕ್ರಿಯೆಯಲ್ಲಿ ವ್ಯಕ್ತಿಗೆ ತೋರಿಸಲಾಗುವ ನಿರ್ಧಾರದ ವಿವರಣೆಯ ಪಠ್ಯವನ್ನು ಕರಡು ಮಾಡಿ ಮತ್ತು ಮೇಲ್ಮನವಿ/ಮಾನವ ವಿಮರ್ಶೆ ಮಾರ್ಗವನ್ನು ಒಳಗೊಂಡಿರುತ್ತದೆ.
ಪರಿಶೀಲನಾಪಟ್ಟಿ
- [ ] ನಾನು ಪ್ರಕ್ರಿಯೆಗೆ ಸೂಕ್ತವಾದ ಮಾನವ ನಿಯಂತ್ರಣ ಮಾದರಿಯನ್ನು ಆಯ್ಕೆ ಮಾಡಿದ್ದೇನೆ.
- [ ] ನಾನು ಕಾಂಕ್ರೀಟ್ ನಿಯಂತ್ರಣವನ್ನು ವಿನ್ಯಾಸಗೊಳಿಸಿದ್ದೇನೆ ಅದು ರಬ್ಬರ್ ಸ್ಟಾಂಪ್ ಅನ್ನು ತಡೆಯುತ್ತದೆ.
- [ ] ನಾನು ಪಕ್ಷಪಾತ ಪರೀಕ್ಷೆಯ ಯೋಜನೆಯನ್ನು ಸಿದ್ಧಪಡಿಸಿದೆ (ಗುಂಪುಗಳು, ಮೆಟ್ರಿಕ್, ಆವರ್ತನ).
- [ ] ನಾನು ಬದಲಿ ಅಸ್ಥಿರಗಳ ಅಪಾಯವನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡಿದ್ದೇನೆ.
- [ ] ನಾನು ವ್ಯಕ್ತಿಗೆ ನಿರ್ಧಾರದ ವಿವರಣೆಯ ಪಠ್ಯವನ್ನು ಬರೆದಿದ್ದೇನೆ.
- [ ] ನಾನು ಮನವಿ ಮತ್ತು ಮಾನವ ವಿಮರ್ಶೆಯ ಮಾರ್ಗವನ್ನು ಸ್ಪಷ್ಟವಾಗಿ ಪ್ರಸ್ತುತಪಡಿಸಿದ್ದೇನೆ.
- [ ] ನಾನು ಪ್ರಕಟಣೆಯ ಮೊದಲು ನೀತಿಶಾಸ್ತ್ರದ ವಿಮರ್ಶೆಯನ್ನು ನಡೆಸಿದೆ.