ಲಾಭಗಳು:
- ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ಮಾದರಿಗಳಲ್ಲಿ ಪಕ್ಷಪಾತವು ಡೇಟಾ ಮತ್ತು ವಿನ್ಯಾಸದಿಂದ ಹೇಗೆ ಉದ್ಭವಿಸುತ್ತದೆ ಮತ್ತು ಬ್ಯಾಂಕಿಂಗ್ನಲ್ಲಿ ಕಾನೂನು ಮತ್ತು ನೈತಿಕ ಅಪಾಯಗಳನ್ನು ಏಕೆ ಸೃಷ್ಟಿಸುತ್ತದೆ ಎಂಬುದನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳುವುದು
- ಸಂರಕ್ಷಿತ ವೈಶಿಷ್ಟ್ಯಗಳು, ಪ್ರಾಕ್ಸಿ ವೇರಿಯೇಬಲ್ಗಳು ಮತ್ತು ಪರೋಕ್ಷ ತಾರತಮ್ಯವನ್ನು ಗುರುತಿಸುವ ಸಾಮರ್ಥ್ಯ ಮತ್ತು ನ್ಯಾಯಸಮ್ಮತತೆಯ ವಿಷಯದಲ್ಲಿ ಮಾದರಿ ನಿರ್ಧಾರಗಳನ್ನು ಪ್ರಶ್ನಿಸುವುದು
- ನ್ಯಾಯ ಮಾಪನಗಳು, ಹೊರಗಿಡಲಾದ ಗುಂಪುಗಳು ಮತ್ತು ವಸ್ತುವಿನ ಹಕ್ಕನ್ನು ಮಾದರಿ ಆಡಳಿತದಲ್ಲಿ ಹೇಗೆ ಹೆಣೆಯಲಾಗಿದೆ ಮತ್ತು ತಾರತಮ್ಯದ ಕೆಂಪು ರೇಖೆಯನ್ನು ಹೇಗೆ ನಿರ್ವಹಿಸಲಾಗುತ್ತದೆ ಎಂಬುದನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳುವ ಸಾಮರ್ಥ್ಯ
AI ಮಾದರಿಯು ತಟಸ್ಥವಾಗಿಲ್ಲ; ಇದು ಕಲಿತ ಡೇಟಾದ ಕನ್ನಡಿಯಾಗಿದೆ. ಡೇಟಾವು ಹಿಂದಿನ ಅಸಮಾನತೆಗಳನ್ನು ಹೊಂದಿದ್ದರೆ, ಮಾದರಿಯು ಅವುಗಳನ್ನು ಕಲಿಯುತ್ತದೆ ಮತ್ತು ಭವಿಷ್ಯಕ್ಕೆ ಒಯ್ಯುತ್ತದೆ. ಬ್ಯಾಂಕಿಂಗ್ನಲ್ಲಿ, ಇದು ಅಮೂರ್ತ ನೈತಿಕ ಚರ್ಚೆಯಲ್ಲ: ಕ್ರೆಡಿಟ್ ಮಾದರಿಯು ನಿರ್ದಿಷ್ಟ ಗುಂಪಿಗೆ ವ್ಯವಸ್ಥಿತವಾಗಿ ಅನನುಕೂಲವನ್ನು ಉಂಟುಮಾಡಿದರೆ, ಇದು ಕಾನೂನುಬಾಹಿರ (ತಾರತಮ್ಯದ ನಿಷೇಧ) ಮತ್ತು ನೈತಿಕ ಉಲ್ಲಂಘನೆಯಾಗಿದೆ, ಇದು ಬ್ಯಾಂಕಿಗೆ ಖ್ಯಾತಿ ಮತ್ತು ನಿರ್ಬಂಧಗಳ ಅಪಾಯವನ್ನು ತರುತ್ತದೆ. ಈ ಘಟಕದ ಉದ್ದೇಶವು ಮಾದರಿಯು ಪಕ್ಷಪಾತಿ, ನೇರ ಮತ್ತು ಪರೋಕ್ಷ ತಾರತಮ್ಯದ ರೂಪಗಳು, ಪ್ರಾಕ್ಸಿ ವೇರಿಯಬಲ್ ಟ್ರ್ಯಾಪ್ ಮತ್ತು ಮಾದರಿ ಆಡಳಿತದಲ್ಲಿ ನ್ಯಾಯಸಮ್ಮತತೆಯನ್ನು ನೇಯ್ಗೆ ಮಾಡುವ ವಿಧಾನಗಳನ್ನು ಹೇಗೆ ತೋರಿಸುತ್ತದೆ ಎಂಬುದನ್ನು ತೋರಿಸುವುದು. ಮೊದಲಿನಿಂದಲೂ ಒಂದು ಕೆಂಪು ರೇಖೆಯನ್ನು ಹೇಳಬೇಕು: ತಾರತಮ್ಯ, ಅದು ಎಷ್ಟು "ಸಂಖ್ಯಾಶಾಸ್ತ್ರೀಯ" ಎಂದು ತೋರುತ್ತದೆಯಾದರೂ, ಅದು ಸ್ವೀಕಾರಾರ್ಹವಲ್ಲ.
ಪೂರ್ವಾಗ್ರಹ ಎಲ್ಲಿಂದ ಬರುತ್ತದೆ?
- ಡೇಟಾ ಪಕ್ಷಪಾತ: ಹಿಂದಿನ ನಿರ್ಧಾರಗಳು ಅನ್ಯಾಯವಾಗಿದ್ದರೆ (ಉದಾ. ನಿರ್ದಿಷ್ಟ ಗುಂಪಿಗೆ ಹಿಂದೆ ಕಡಿಮೆ ಕ್ರೆಡಿಟ್ ನೀಡಲಾಗಿದೆ), ಮಾದರಿಯು ಇದನ್ನು "ಸಾಮಾನ್ಯ" ಎಂದು ಊಹಿಸುತ್ತದೆ ಮತ್ತು ಮುಂದುವರಿಯುತ್ತದೆ. ಇದನ್ನು ಐತಿಹಾಸಿಕ ಪಕ್ಷಪಾತ ಎಂದು ಕರೆಯಲಾಗುತ್ತದೆ.
- ಮಾದರಿ ಪಕ್ಷಪಾತ: ಕೆಲವು ಗುಂಪುಗಳನ್ನು ಡೇಟಾದಲ್ಲಿ ಕಡಿಮೆ ಪ್ರತಿನಿಧಿಸಿದರೆ, ಮಾದರಿಯು ಅವುಗಳ ಬಗ್ಗೆ ಕಳಪೆಯಾಗಿ ಮತ್ತು ತಪ್ಪಾಗಿ ಕಲಿಯುತ್ತದೆ.
- ಲೇಬಲ್ ಪಕ್ಷಪಾತ: "ಉತ್ತಮ ಗ್ರಾಹಕ" ಎಂಬ ವ್ಯಾಖ್ಯಾನವು ಸ್ವತಃ ಪಕ್ಷಪಾತವಾಗಿದ್ದರೆ, ಮಾದರಿಯು ಪಕ್ಷಪಾತಕ್ಕೆ ಉತ್ತಮಗೊಳಿಸುತ್ತದೆ.
- ವಿನ್ಯಾಸ ಪಕ್ಷಪಾತ: ಯಾವ ಅಸ್ಥಿರಗಳನ್ನು ಬಳಸಬೇಕೆಂಬುದರ ಬಗ್ಗೆ ಮಾನವ ಆಯ್ಕೆಗಳು ಸಹ ಪಕ್ಷಪಾತವನ್ನು ಹೊಂದಿರಬಹುದು.
ಸಲಹೆ: "ಮಾದರಿಯು ಡೇಟಾವನ್ನು ಆಧರಿಸಿದೆ, ಆದ್ದರಿಂದ ಇದು ವಸ್ತುನಿಷ್ಠವಾಗಿದೆ" ಎಂಬುದು ತಪ್ಪು ಕಲ್ಪನೆ. ಡೇಟಾವು ಹಿಂದಿನ ಸ್ನ್ಯಾಪ್ಶಾಟ್ ಆಗಿದೆ; ಹಿಂದಿನದು ಅನ್ಯಾಯವಾಗಿದ್ದರೆ, "ವಸ್ತುನಿಷ್ಠ" ಮಾದರಿಯು ಗಣಿತದ ಅನ್ಯಾಯವನ್ನು ಸಮರ್ಥಿಸುತ್ತದೆ. ವಸ್ತುನಿಷ್ಠತೆಯು ನಿಷ್ಪಕ್ಷಪಾತದ ಭರವಸೆಯಲ್ಲ.
ಪ್ರತ್ಯಕ್ಷ ಮತ್ತು ಪರೋಕ್ಷ ತಾರತಮ್ಯ
- ನೇರ ತಾರತಮ್ಯ: ಸಂರಕ್ಷಿತ ಗುಣಲಕ್ಷಣದ ಮಾದರಿಯ ನೇರ ಬಳಕೆ (ಲಿಂಗ, ಜನಾಂಗೀಯತೆ, ಧರ್ಮ, ವಯಸ್ಸು). ಇದನ್ನು ಸ್ಪಷ್ಟವಾಗಿ ನಿಷೇಧಿಸಲಾಗಿದೆ.
- ಪರೋಕ್ಷ ತಾರತಮ್ಯ (ಬಾಡಿಗೆ ವೇರಿಯೇಬಲ್ / ಪ್ರಾಕ್ಸಿ): ಮಾದರಿಯು ಸಂರಕ್ಷಿತ ವೈಶಿಷ್ಟ್ಯವನ್ನು ನೇರವಾಗಿ ಬಳಸದಿದ್ದರೂ ಸಹ, ಅದಕ್ಕೆ ಬಲವಾಗಿ ಸಂಬಂಧಿಸಿದ ಮತ್ತೊಂದು ವೇರಿಯಬಲ್ ಅನ್ನು ಬಳಸುವ ಮೂಲಕ ಅದೇ ಫಲಿತಾಂಶವನ್ನು ನೀಡುತ್ತದೆ (ಜಿಪ್ ಕೋಡ್, ಹೆಸರು, ಶಾಪಿಂಗ್ ವರ್ಗ, ಕೆಲಸ ಮಾಡುವ ಜಿಲ್ಲೆ). ಪಿನ್ ಕೋಡ್ ಸಾಮಾನ್ಯವಾಗಿ ಜನಾಂಗೀಯತೆ ಅಥವಾ ಆದಾಯ ಮಟ್ಟಕ್ಕೆ ಪ್ರಾಕ್ಸಿಯಾಗಿದೆ. ಮಾದರಿಯು "ನೆರೆಹೊರೆ" ಎಂದು ಹೇಳುತ್ತದೆ ಆದರೆ ಫಲಿತಾಂಶವು "ಮೂಲ" ತಾರತಮ್ಯವಾಗಿದೆ.
ವೇರಿಯಬಲ್
ಸ್ಪಷ್ಟವಾಗಿ
ಪ್ರಾಕ್ಸಿ ಆಗಿರಬಹುದು
ಪೋಸ್ಟ್ಕೋಡ್ / ಜಿಲ್ಲೆ
ಭೂಗೋಳಶಾಸ್ತ್ರ
ಜನಾಂಗೀಯತೆ, ಆದಾಯ ಮಟ್ಟ
ಹೆಸರು
ID
ಮೂಲ, ಲಿಂಗ
ಶಾಪಿಂಗ್ ವರ್ಗ
ನಡವಳಿಕೆ
ಜೀವನಶೈಲಿ, ನಂಬಿಕೆ
ಪದವಿ ಶಾಲೆ
ಶಿಕ್ಷಣ
ಸಾಮಾಜಿಕ ಆರ್ಥಿಕ ಮೂಲ
ಅದಕ್ಕಾಗಿಯೇ ನೀವು ಸಮರ್ಥನೆಯಲ್ಲಿ "ನೆರೆಹೊರೆಯು ಅಪಾಯಕಾರಿ" ಎಂಬಂತಹ ಹೇಳಿಕೆಯನ್ನು ನೋಡಿದಾಗ ಎಚ್ಚರಿಕೆಯು ಧ್ವನಿಸಬೇಕು: ಇದು ಕಾನೂನುಬದ್ಧ ಮಾನದಂಡವಾಗಿ ಕಾಣಿಸಬಹುದು ಆದರೆ ಪರೋಕ್ಷ ತಾರತಮ್ಯವನ್ನು ಹೊಂದಿರಬಹುದು.
ಎಚ್ಚರಿಕೆ: ಡೇಟಾದಿಂದ ಸಂರಕ್ಷಿತ ವೈಶಿಷ್ಟ್ಯವನ್ನು ತೆಗೆದುಹಾಕುವುದು ತಾರತಮ್ಯವನ್ನು ಕೊನೆಗೊಳಿಸುವುದಿಲ್ಲ. ಸರೊಗೇಟ್ ಅಸ್ಥಿರಗಳು ಅದನ್ನು ಹಿಂತಿರುಗಿಸಬಹುದು. "ನಾನು ಸೂಕ್ಷ್ಮ ಅಂಕಣವನ್ನು ಅಳಿಸಿದ್ದೇನೆ" ನಿಂದ ನ್ಯಾಯವನ್ನು ಸಾಧಿಸಲಾಗುವುದಿಲ್ಲ; ಗುಂಪುಗಳ ನಡುವಿನ ಮಾದರಿ ನಿರ್ಧಾರಗಳ ಫಲಿತಾಂಶಗಳನ್ನು ಪರೀಕ್ಷಿಸುವ ಮೂಲಕ ಇದನ್ನು ಸಾಧಿಸಲಾಗುತ್ತದೆ.
ಆಡಳಿತದಲ್ಲಿ ನ್ಯಾಯವನ್ನು ನೇಯುವುದು
- ನ್ಯಾಯೋಚಿತ ಮೆಟ್ರಿಕ್ಸ್. ಮಾದರಿಯ ಅನುಮೋದನೆ/ನಿರಾಕರಣೆ ದರಗಳು ಮತ್ತು ಗುಂಪುಗಳ ನಡುವಿನ ದೋಷ ದರಗಳನ್ನು ಹೋಲಿಕೆ ಮಾಡಿ. ಒಂದು ಗುಂಪು ವ್ಯವಸ್ಥಿತವಾಗಿ ಹೆಚ್ಚಿನ ನಿರಾಕರಣೆಗಳನ್ನು ಅನುಭವಿಸುತ್ತದೆಯೇ?
- ಪ್ರಾಕ್ಸಿ ನಿಯಂತ್ರಣ. ಸಂರಕ್ಷಿತ ಗುಣಲಕ್ಷಣಗಳಿಗೆ ಬಳಸುವ ಅಸ್ಥಿರಗಳ ಸಂಬಂಧವನ್ನು ಪರೀಕ್ಷಿಸಿ.
- ವಿವರಿಸುವ ಸಾಮರ್ಥ್ಯ. ಪ್ರತಿ ನಿರ್ಧಾರಕ್ಕೂ ಸಮರ್ಥನೆಯನ್ನು ಉತ್ಪಾದಿಸಬೇಕು; "ಕಪ್ಪು ಪೆಟ್ಟಿಗೆ" ನಿರಾಕರಣೆ ಅಸಮರ್ಥನೀಯವಾಗಿದೆ.
- ಆಕ್ಷೇಪಿಸುವ ಹಕ್ಕು. ಗ್ರಾಹಕರು ನಿರ್ಧಾರದ ತಾರ್ಕಿಕತೆಯನ್ನು ಕಲಿಯುವ ಹಕ್ಕನ್ನು ನೀಡಬೇಕು ಮತ್ತು ಮಾನವ ವಿಮರ್ಶೆಯನ್ನು ವಿನಂತಿಸಬೇಕು.
- ಹೊರಗಿಡಲಾದ ಗುಂಪುಗಳು. ಡೇಟಾದಲ್ಲಿ ಕಡಿಮೆ ಪ್ರತಿನಿಧಿಸುವ ಗುಂಪುಗಳನ್ನು ತಪ್ಪಾಗಿ ಪರಿಗಣಿಸಲಾಗಿಲ್ಲ ಎಂಬುದನ್ನು ಸಹ ಪರಿಶೀಲಿಸಬೇಕು.
ನಾಲ್ಕು ನಕಲಿಸಬಹುದಾದ ಟೆಂಪ್ಲೇಟ್ಗಳು
1) ಸಮರ್ಥನೆಯಲ್ಲಿ ತಾರತಮ್ಯಕ್ಕಾಗಿ ಸ್ಕ್ರೀನಿಂಗ್:
ಕೆಳಗಿನ ಕ್ರೆಡಿಟ್ ನಿರ್ಧಾರದ ತಾರ್ಕಿಕತೆಯನ್ನು ಪರಿಶೀಲಿಸಿ: ಸಂರಕ್ಷಿತ ಗುಣಲಕ್ಷಣ (ವಯಸ್ಸು, ಲಿಂಗ, ಮೂಲ, ಧರ್ಮ) ಅಥವಾ ಪ್ರಾಕ್ಸಿ ವೇರಿಯಬಲ್ (ಪೋಸ್ಟ್ಕೋಡ್, ನೆರೆಹೊರೆ, ಹೆಸರು, ಶಾಪಿಂಗ್ ಪ್ರಕಾರ) ಗೆ ನೇರ/ಪರೋಕ್ಷ ಉಲ್ಲೇಖವಿದೆಯೇ? ಅಪಾಯಕಾರಿ ಹೇಳಿಕೆಗಳನ್ನು ಫ್ಲ್ಯಾಗ್ ಮಾಡಿ ಮತ್ತು ಅವು ತಾರತಮ್ಯದ ಅಪಾಯವನ್ನು ಏಕೆ ಉಂಟುಮಾಡುತ್ತವೆ ಎಂಬುದನ್ನು ವಿವರಿಸಿ. ಕಾರಣ: [ಪಠ್ಯ]
2) ವೇರಿಯಬಲ್ ಪಟ್ಟಿ ಪ್ರಾಕ್ಸಿ ನಿಯಂತ್ರಣ:
ಕ್ರೆಡಿಟ್ ಮಾದರಿಯಲ್ಲಿ ಬಳಸಲಾದ ಅಸ್ಥಿರಗಳ ಈ ಪಟ್ಟಿಯನ್ನು ಪರೀಕ್ಷಿಸಿ. ಯಾವವುಗಳು ಸಂರಕ್ಷಿತ ಗುಣಲಕ್ಷಣಗಳಿಗೆ ಪ್ರಾಕ್ಸಿ ಆಗಿರಬಹುದು ಮತ್ತು ಪರೋಕ್ಷ ತಾರತಮ್ಯದ ಅಪಾಯವನ್ನು ಉಂಟುಮಾಡಬಹುದು? ಪ್ರತಿ ಅಪಾಯಕಾರಿ ರೂಪಾಂತರಕ್ಕೆ ನಿಮ್ಮ ಸಮರ್ಥನೆಯನ್ನು ಬರೆಯಿರಿ. ಪಟ್ಟಿ: [ವೇರಿಯಬಲ್ಗಳು]
3) ನ್ಯಾಯಸಮ್ಮತತೆಯ ವಿಷಯದಲ್ಲಿ ನಿರ್ಧಾರದ ಸಾರಾಂಶ (ತಟಸ್ಥ, ವಿವರಿಸಬಹುದಾದ):
ನಿಮ್ಮ ಪಾತ್ರ: ವಿವರಿಸಬಹುದಾದ ನಿರ್ಧಾರದ ತಾರ್ಕಿಕತೆಯನ್ನು ರಚಿಸುವ ಸಹಾಯಕ. ಕಾನೂನುಬದ್ಧ, ತಾರತಮ್ಯವಲ್ಲದ ಮಾನದಂಡಗಳನ್ನು ಮಾತ್ರ ಅವಲಂಬಿಸಿ (ಸಾಲದಿಂದ ಆದಾಯದ ಅನುಪಾತ, ಪಾವತಿ ಇತಿಹಾಸ, ಮೇಲಾಧಾರ). ಸಂರಕ್ಷಿತ ಆಸ್ತಿ ಮತ್ತು ಬಾಡಿಗೆ ವೇರಿಯಬಲ್ ಅನ್ನು ಉಲ್ಲೇಖಿಸಬೇಡಿ. ಗ್ರಾಹಕರು ಅರ್ಥಮಾಡಿಕೊಳ್ಳುವ ಸರಳ ಭಾಷೆಯಲ್ಲಿ ತಾರ್ಕಿಕತೆಯನ್ನು ಬರೆಯಿರಿ. ಮಂಜೂರಾತಿ ನೀಡುತ್ತೇನೆ.
4) ಆಕ್ಷೇಪಣೆ ಪ್ರತಿಕ್ರಿಯೆ ಕರಡು:
ಗ್ರಾಹಕರು ಕ್ರೆಡಿಟ್ ನಿರಾಕರಣೆಗೆ ಮನವಿ ಮಾಡಿದರು ಮತ್ತು ಸಮರ್ಥನೆಯನ್ನು ಬಯಸುತ್ತಾರೆ. ಕಾನೂನುಬದ್ಧ ಮಾನದಂಡಗಳ ಆಧಾರದ ಮೇಲೆ ಗೌರವಾನ್ವಿತ ಮತ್ತು ವಿವರಣಾತ್ಮಕ ಪ್ರತಿಕ್ರಿಯೆಯನ್ನು ರಚಿಸಿ; ಮಾನವ ವಿಮರ್ಶೆ ಮತ್ತು ತಿದ್ದುಪಡಿಗೆ ಗ್ರಾಹಕನಿಗೆ ಅವನ ಅಥವಾ ಅವಳ ಹಕ್ಕನ್ನು ನೆನಪಿಸಿ. ಯಾವುದೇ ತಾರತಮ್ಯದ ಪರಿಣಾಮಗಳನ್ನು ಬಳಸಬೇಡಿ. ಪರಿಶೀಲಿಸಿದ ನಿರಾಕರಣೆಯ ಕಾರಣ: [ಕಾರಣ]
ದುರ್ಬಲ ಪ್ರಾಂಪ್ಟ್ / ಬಲವಾದ ಪ್ರಾಂಪ್ಟ್
ದುರ್ಬಲ ಪ್ರಾಂಪ್ಟ್:
ಈ ಪ್ರದೇಶದಲ್ಲಿನ ಅಪ್ಲಿಕೇಶನ್ಗಳು ತುಂಬಾ ಅಪಾಯಕಾರಿಯಾಗಿದೆ, ಜಿಲ್ಲೆಯ ಮಾಹಿತಿಯನ್ನು ಮಾದರಿಯಲ್ಲಿ ಹೆಚ್ಚು ಬಳಸೋಣ ಇದರಿಂದ ನಿಖರತೆಯನ್ನು ಹೆಚ್ಚಿಸಬಹುದು.
ಈ ವಿಧಾನವು ಜಿಲ್ಲೆಯ ಆಧಾರದ ಮೇಲೆ ಪರೋಕ್ಷ ತಾರತಮ್ಯವನ್ನು ಬಲಪಡಿಸುತ್ತದೆ; ಇದು "ಹಿಟ್" ಹೆಸರಿನಲ್ಲಿ ಕಾನೂನುಬಾಹಿರ ಫಲಿತಾಂಶವನ್ನು ಕಾನೂನುಬದ್ಧಗೊಳಿಸುತ್ತದೆ.
ಶಕ್ತಿಯುತ ಪ್ರಾಂಪ್ಟ್:
ನಿಮ್ಮ ಪಾತ್ರ: ನ್ಯಾಯದ ಆಡಿಟ್ ಸಹಾಯಕ. ಬದಲಿ ಅಸ್ಥಿರಗಳ ಅಪಾಯವನ್ನು ಉಂಟುಮಾಡುವ ಬಳಸಿದ ಅಸ್ಥಿರಗಳನ್ನು ಫ್ಲ್ಯಾಗ್ ಮಾಡಿ. ಅನುಮೋದನೆ/ನಿರಾಕರಣೆ ದರದ ವಿಷಯದಲ್ಲಿ ಗುಂಪುಗಳ ನಡುವಿನ ನಿರ್ಧಾರಗಳನ್ನು ಹೋಲಿಸಲು ನಾನು ಯಾವ ಮೆಟ್ರಿಕ್ಗಳನ್ನು ಅನುಸರಿಸಬೇಕು ಎಂಬುದನ್ನು ಸೂಚಿಸಿ. ತಾರತಮ್ಯದ ಮಾನದಂಡವನ್ನು ಎಂದಿಗೂ ಬಲಪಡಿಸಬೇಡಿ; ಕಾನೂನುಬದ್ಧ ಮತ್ತು ವಿವರಿಸಬಹುದಾದ ಮಾನದಂಡಗಳಿಗೆ ಮರುನಿರ್ದೇಶಿಸುತ್ತದೆ.
ಬಲವಾದ ಇಚ್ಛೆಯು ಪ್ರಾಕ್ಸಿ ಅಪಾಯವನ್ನು ಹುಡುಕುತ್ತದೆ, ನ್ಯಾಯೋಚಿತ ಮೆಟ್ರಿಕ್ಗಳನ್ನು ಪರಿಚಯಿಸುತ್ತದೆ ಮತ್ತು ತಾರತಮ್ಯವನ್ನು ತಿರಸ್ಕರಿಸುತ್ತದೆ.
ಮೂರು ಸಣ್ಣ ಪ್ರಕರಣಗಳು
ಪ್ರಕರಣ 1 - ಐತಿಹಾಸಿಕ ಪಕ್ಷಪಾತ. ಒಂದು ಮಾದರಿಯು ನಿರ್ದಿಷ್ಟ ಔದ್ಯೋಗಿಕ ಗುಂಪಿಗೆ ವ್ಯವಸ್ಥಿತವಾಗಿ ಕಡಿಮೆ ಸ್ಕೋರ್ ನೀಡುತ್ತದೆ ಏಕೆಂದರೆ ಹಿಂದೆ ಕಡಿಮೆ ಕ್ರೆಡಿಟ್ ನೀಡಲಾಗಿದೆ. ಈ ಗುಂಪಿನ ನಿರಾಕರಣೆ ದರವು ಇದೇ ರೀತಿಯ ಆದಾಯದ ಮಟ್ಟದಲ್ಲಿ ಇತರರಿಗಿಂತ 30% ಹೆಚ್ಚಾಗಿದೆ ಎಂದು ನ್ಯಾಯೋಚಿತ ಆಡಿಟ್ ತೋರಿಸುತ್ತದೆ. ಕಾನೂನುಬದ್ಧ ಆದಾಯ ಮತ್ತು ಪಾವತಿ ಮಾನದಂಡಗಳೊಂದಿಗೆ ಮಾದರಿಯನ್ನು ಮರುಸಮತೋಲನಗೊಳಿಸಲಾಗಿದೆ.
ಪ್ರಕರಣ 2 - ಸರೊಗೇಟ್ ವೇರಿಯೇಬಲ್. ಮಾದರಿಯಲ್ಲಿ ಜಿಪ್ ಕೋಡ್ ಶಕ್ತಿಯುತ ವೇರಿಯಬಲ್ ಆಗಿದೆ. ಕೆಲವು ಜನಾಂಗೀಯವಾಗಿ ಕೇಂದ್ರೀಕೃತವಾದ ನೆರೆಹೊರೆಗಳೊಂದಿಗೆ ಪಿನ್ ಕೋಡ್ ಅತಿಕ್ರಮಿಸುತ್ತದೆ, ಪರೋಕ್ಷ ಮೂಲದ ತಾರತಮ್ಯವನ್ನು ಉಂಟುಮಾಡುತ್ತದೆ ಎಂದು ಆಡಿಟ್ ತೋರಿಸುತ್ತದೆ. ವೇರಿಯಬಲ್ ಅನ್ನು ತೆಗೆದುಹಾಕಲಾಗುತ್ತದೆ ಮತ್ತು ಕಾನೂನುಬದ್ಧ ಆರ್ಥಿಕ ಮಾನದಂಡಗಳಿಂದ ಬದಲಾಯಿಸಲಾಗುತ್ತದೆ; ಕಾರ್ಯಕ್ಷಮತೆಯು ಸ್ವೀಕಾರಾರ್ಹ ಮಟ್ಟದಲ್ಲಿ ಉಳಿದಿದೆ, ತಾರತಮ್ಯವನ್ನು ತೆಗೆದುಹಾಕಲಾಗುತ್ತದೆ.
ಪ್ರಕರಣ 3 - ಆಕ್ಷೇಪಣೆಯ ಹಕ್ಕು. ತಿರಸ್ಕರಿಸಿದ ಗ್ರಾಹಕನು ಸಮರ್ಥನೆಯನ್ನು ಕೇಳುತ್ತಾನೆ. ಬ್ಯಾಂಕ್ ವಿವರಿಸಬಹುದಾದ ಸಮರ್ಥನೆಯನ್ನು ಒದಗಿಸುತ್ತದೆ (ಹೆಚ್ಚಿನ ಸಾಲ-ಆದಾಯ ಅನುಪಾತ) ಮತ್ತು ಮಾನವ ವಿಮರ್ಶೆಗಾಗಿ ವಿನಂತಿಯನ್ನು ಸ್ವೀಕರಿಸುತ್ತದೆ. ವಿಮರ್ಶೆಯು ಡಾಕ್ಯುಮೆಂಟ್ನ ತಪ್ಪಾಗಿ ಓದುವಿಕೆಯನ್ನು ಬಹಿರಂಗಪಡಿಸುತ್ತದೆ; ನಿರ್ಧಾರವನ್ನು ಸರಿಪಡಿಸಲಾಗಿದೆ. ವಿವರಣೆ ಮತ್ತು ಆಕ್ಷೇಪಣೆಯ ಹಕ್ಕು ನ್ಯಾಯದೊಂದಿಗೆ ತಪ್ಪನ್ನು ಸರಿದೂಗಿಸುತ್ತದೆ.
ನ್ಯಾಯೋಚಿತ ಮೆಟ್ರಿಕ್ಸ್: ನಾವು ಏನು ಮತ್ತು ಹೇಗೆ ಅಳೆಯುತ್ತೇವೆ
"ಮಾದರಿ ನ್ಯಾಯೋಚಿತವೇ?" ಎಂಬ ಪ್ರಶ್ನೆಗೆ ಒಂದೇ ಉತ್ತರವಿಲ್ಲ; ನ್ಯಾಯದ ಅನೇಕ ವ್ಯಾಖ್ಯಾನಗಳಿವೆ, ಮತ್ತು ಅವು ಕೆಲವೊಮ್ಮೆ ಪರಸ್ಪರ ಸಂಘರ್ಷಿಸುತ್ತವೆ. ಬ್ಯಾಂಕಿಂಗ್ನಲ್ಲಿ ಪ್ರಾಯೋಗಿಕವಾಗಿ ಅನುಸರಿಸುವ ಕೆಲವು ವಿಧಾನಗಳು ಇಲ್ಲಿವೆ:
- ಅನುಮೋದನೆ/ನಿರಾಕರಣೆ ದರ ಹೋಲಿಕೆ: ಒಂದೇ ರೀತಿಯ ಹಣಕಾಸು ಪ್ರೊಫೈಲ್ಗಳೊಂದಿಗೆ (ಉದಾ. ಲಿಂಗ ಗುಂಪುಗಳು) ವಿವಿಧ ಗುಂಪುಗಳ ನಡುವೆ ಅನುಮೋದನೆ ದರವು ವ್ಯವಸ್ಥಿತವಾಗಿ ವಿಭಿನ್ನವಾಗಿದೆಯೇ? ದೊಡ್ಡ ಮತ್ತು ವಿವರಿಸಲಾಗದ ವ್ಯತ್ಯಾಸವು ಪಕ್ಷಪಾತದ ಸಂಕೇತವಾಗಿದೆ.
- ದೋಷ ದರ ಸಮಾನತೆ: ಮಾದರಿಯ ತಪ್ಪು ನಿರಾಕರಣೆ (ಕಾನೂನುಬದ್ಧ ಅಪ್ಲಿಕೇಶನ್ ಅನ್ನು ತಿರಸ್ಕರಿಸುವುದು) ದರವು ಗುಂಪುಗಳಾದ್ಯಂತ ಸಮತೋಲಿತವಾಗಿದೆಯೇ? ಒಂದು ಗುಂಪನ್ನು ಇನ್ನೊಂದಕ್ಕಿಂತ ಹೆಚ್ಚಾಗಿ ಅನ್ಯಾಯವಾಗಿ ತಿರಸ್ಕರಿಸಿದರೆ, ಸಮಸ್ಯೆ ಇದೆ.
- ಮಾಪನಾಂಕ ನಿರ್ಣಯ: ಮಾದರಿಯು "ಹೆಚ್ಚಿನ ಅಪಾಯ" ಎಂದು ಕರೆಯುವ ಗ್ರಾಹಕರು ಪ್ರತಿ ಗುಂಪಿನಲ್ಲಿ ಒಂದೇ ರೀತಿಯ ದರಗಳಲ್ಲಿ ನಿಜವಾಗಿಯೂ ಡೀಫಾಲ್ಟ್ ಆಗುತ್ತಾರೆಯೇ? ಸ್ಕೋರ್ನ ಅರ್ಥವು ಗುಂಪಿನಿಂದ ಗುಂಪಿಗೆ ಬದಲಾಗಬಾರದು.
ಈ ಮೆಟ್ರಿಕ್ಗಳನ್ನು ಕೆಲವೊಮ್ಮೆ ಒಂದೇ ಸಮಯದಲ್ಲಿ ಒದಗಿಸಲಾಗುವುದಿಲ್ಲ; ನ್ಯಾಯದ ಯಾವ ವ್ಯಾಖ್ಯಾನವನ್ನು ಆದ್ಯತೆ ನೀಡುವುದು ತಾಂತ್ರಿಕವಲ್ಲ ಆದರೆ ನೈತಿಕ ಮತ್ತು ಕಾನೂನು ನಿರ್ಧಾರವಾಗಿದೆ ಮತ್ತು ಮಾನವ ಆಡಳಿತದ ಅಗತ್ಯವಿದೆ.
ಸಲಹೆ: ನೀವು ಮಾದರಿಯನ್ನು ನಿರ್ಮಿಸುವಾಗ ಮಾತ್ರವಲ್ಲದೆ ನಿಯಮಿತ ಮಧ್ಯಂತರಗಳಲ್ಲಿ ಫೇರ್ನೆಸ್ ಮೆಟ್ರಿಕ್ ಅನ್ನು ಅಳೆಯಿರಿ. ಡೇಟಾ ಡ್ರಿಫ್ಟ್ನಿಂದಾಗಿ ಮಾದರಿಯು ನ್ಯಾಯಯುತವಾಗಿ ಲೈವ್ ಆಗಬಹುದು ಮತ್ತು ಕಾಲಾನಂತರದಲ್ಲಿ ಪಕ್ಷಪಾತಿಯಾಗಬಹುದು. ನ್ಯಾಯವು "ಸ್ಥಾಪನೆ"ಯ ವಿಷಯವಲ್ಲ ಆದರೆ "ಮೇಲ್ವಿಚಾರಣೆ"ಯ ವಿಷಯವಾಗಿದೆ.
ಸಾಮಾನ್ಯ ತಪ್ಪುಗಳು
- "ವಸ್ತುನಿಷ್ಠ ಡೇಟಾ" ತಪ್ಪು. ಮಾದರಿಯು ತಟಸ್ಥವಾಗಿದೆ ಎಂದು ಭಾವಿಸುವುದು; ಡೇಟಾವು ಐತಿಹಾಸಿಕ ಪಕ್ಷಪಾತವನ್ನು ಹೊಂದಿದೆ.
- ಸೂಕ್ಷ್ಮ ಕಾಲಮ್ ಅನ್ನು ಅಳಿಸಿ. ಸಂರಕ್ಷಿತ ಆಸ್ತಿಯನ್ನು ತೆಗೆದುಹಾಕುವುದು ಮತ್ತು ಪ್ರಾಕ್ಸಿ ವೇರಿಯೇಬಲ್ಗಳನ್ನು ಕಡೆಗಣಿಸುವುದು.
- ಫೇರ್ನೆಸ್ ಮೆಟ್ರಿಕ್ಗಳನ್ನು ಟ್ರ್ಯಾಕ್ ಮಾಡುತ್ತಿಲ್ಲ. ಗುಂಪುಗಳ ನಡುವಿನ ನಿರಾಕರಣೆ/ದೋಷ ದರವನ್ನು ಹೋಲಿಕೆ ಮಾಡುತ್ತಿಲ್ಲ.
- ಕಪ್ಪು ಪೆಟ್ಟಿಗೆಯ ನಿರ್ಧಾರವನ್ನು ಸಮರ್ಥಿಸಿಕೊಳ್ಳುವುದು. ನ್ಯಾಯಸಮ್ಮತವೆಂದು ಸಮರ್ಥಿಸಲಾಗದ ನಿರ್ಧಾರವನ್ನು ಪರಿಗಣಿಸಿ.
- ಆಕ್ಷೇಪಿಸುವ ಹಕ್ಕನ್ನು ತೆಗೆದುಹಾಕುವುದು. ಮಾನವ ವಿಮರ್ಶೆಯನ್ನು ನಿಷ್ಕ್ರಿಯಗೊಳಿಸುವುದು ಏಕೆಂದರೆ "ಇದು ಪ್ರಕ್ರಿಯೆಯನ್ನು ನಿಧಾನಗೊಳಿಸುತ್ತದೆ."
ಗಮನ: ತಾರತಮ್ಯವು ಸಾಮಾನ್ಯವಾಗಿ ದುರುದ್ದೇಶದಿಂದಲ್ಲ ಆದರೆ ಅಜಾಗರೂಕತೆಯಿಂದ ಉಂಟಾಗುತ್ತದೆ. ಒಂದು ವೇರಿಯೇಬಲ್ ಅನ್ನು ಸೇರಿಸಲಾಗಿದೆ ಏಕೆಂದರೆ ಅದು "ನಿಖರತೆಯನ್ನು ಹೆಚ್ಚಿಸುತ್ತದೆ" ತಿಳಿಯದೆ ಗುಂಪನ್ನು ಹೊರಗಿಡಬಹುದು. ಆದ್ದರಿಂದ ನ್ಯಾಯವು ಉತ್ತಮ ನಂಬಿಕೆಯ ಮೇಲೆ ಅಲ್ಲ ಆದರೆ ನಿಯಮಿತ ಪರೀಕ್ಷೆಯ ಮೇಲೆ ಆಧಾರಿತವಾಗಿದೆ.
ಸಾರಾಂಶದಲ್ಲಿ
AI ಮಾದರಿಗಳು ಅವರು ಕಲಿಯುವ ಡೇಟಾದ ಪಕ್ಷಪಾತಗಳನ್ನು ಒಯ್ಯುತ್ತವೆ ಮತ್ತು ಬ್ಯಾಂಕಿಂಗ್ನಲ್ಲಿನ ತಾರತಮ್ಯವು ಕಾನೂನು, ನೈತಿಕ ಮತ್ತು ಖ್ಯಾತಿಯ ಅಪಾಯವಾಗಿದೆ. ನೇರ ತಾರತಮ್ಯವು ಸಂರಕ್ಷಿತ ವೈಶಿಷ್ಟ್ಯವನ್ನು ಬಳಸುತ್ತಿದೆ; ಮತ್ತೊಂದೆಡೆ, ಪರೋಕ್ಷ ತಾರತಮ್ಯವು ಪ್ರಾಕ್ಸಿ ವೇರಿಯೇಬಲ್ಗಳೊಂದಿಗೆ (ಜಿಪ್ ಕೋಡ್, ಹೆಸರು) ಅದೇ ಫಲಿತಾಂಶವನ್ನು ಉಂಟುಮಾಡುತ್ತದೆ. ನ್ಯಾಯವೆಂದರೆ ಸೂಕ್ಷ್ಮ ಅಂಕಣವನ್ನು ಅಳಿಸುವುದಲ್ಲ; ನ್ಯಾಯೋಚಿತ ಮೆಟ್ರಿಕ್ಗಳು, ಪ್ರಾಕ್ಸಿ ನಿಯಂತ್ರಣ, ವಿವರಣೆ ಮತ್ತು ಆಕ್ಷೇಪಣೆಯ ಹಕ್ಕಿನಿಂದ ಖಾತ್ರಿಪಡಿಸಲಾಗಿದೆ. ಒಂದು ವಾಕ್ಯದಲ್ಲಿ: ಮಾದರಿಯು ಹಿಂದಿನದನ್ನು ಪುನರಾವರ್ತಿಸುತ್ತದೆ; ನ್ಯಾಯವನ್ನು ಎತ್ತಿಹಿಡಿಯುವುದು ಮತ್ತು ತಾರತಮ್ಯವನ್ನು ತಿರಸ್ಕರಿಸುವುದು ಮನುಷ್ಯನ ಜವಾಬ್ದಾರಿಯಾಗಿದೆ.
ಅಪ್ಲಿಕೇಶನ್ ಕಾರ್ಯ
ಕ್ರೆಡಿಟ್ ಮಾದರಿಗಾಗಿ 8-10 ವೇರಿಯಬಲ್ಗಳ ಪಟ್ಟಿಯನ್ನು ಬರೆಯಿರಿ (ಕೆಲವು ಉದ್ದೇಶಪೂರ್ವಕ ಪ್ರಾಕ್ಸಿ ಅಪಾಯದೊಂದಿಗೆ: ಪಿನ್ ಕೋಡ್, ಹೆಸರು, ಶಾಪಿಂಗ್ ವರ್ಗ). 2. ಟೆಂಪ್ಲೇಟ್ನೊಂದಿಗೆ ಪ್ರಾಕ್ಸಿ ಚೆಕ್ ಅನ್ನು ಮಾಡಿ ಮತ್ತು ಅಪಾಯಕಾರಿಯಾದವುಗಳನ್ನು ಅವರ ಕಾರಣಗಳೊಂದಿಗೆ ಗುರುತಿಸಿ. ನಂತರ ತಾರತಮ್ಯದ ಸಮರ್ಥನೆ ಪಠ್ಯವನ್ನು ಬರೆಯಿರಿ ಮತ್ತು ಅದನ್ನು ಟೆಂಪ್ಲೇಟ್ 1 ನೊಂದಿಗೆ ಸ್ಕ್ಯಾನ್ ಮಾಡಿ. ಅಂತಿಮವಾಗಿ, ಗುಂಪುಗಳ ನಡುವೆ ಮಾದರಿಯ ನಿರಾಕರಣೆ ದರವನ್ನು ಹೋಲಿಸಲು ನೀವು ಯಾವ ನ್ಯಾಯೋಚಿತ ಮೆಟ್ರಿಕ್ಗಳನ್ನು ಟ್ರ್ಯಾಕ್ ಮಾಡುತ್ತೀರಿ ಎಂಬುದನ್ನು ಪ್ಯಾರಾಗ್ರಾಫ್ನಲ್ಲಿ ಯೋಜಿಸಿ.
ಪರಿಶೀಲನಾಪಟ್ಟಿ
- [ ] ಮಾದರಿ/ತರ್ಕಬದ್ಧತೆಯು ಸಂರಕ್ಷಿತ ಗುಣಲಕ್ಷಣಗಳನ್ನು ಬಳಸುವುದಿಲ್ಲ ಎಂದು ನಾನು ಪರಿಶೀಲಿಸಿದ್ದೇನೆ.
- [ ] ನಾನು ಪ್ರಾಕ್ಸಿ ವೇರಿಯಬಲ್ಗಳ ಅಪಾಯವನ್ನು ಸಹ ಪರಿಶೀಲಿಸಿದ್ದೇನೆ.
- [ ] ನಾನು ಗುಂಪುಗಳ ನಡುವೆ ಅನುಮೋದನೆ/ನಿರಾಕರಣೆ ಮತ್ತು ದೋಷ ದರವನ್ನು ಹೋಲಿಸಲು ಯೋಜಿಸಿದೆ.
- [ ] ಪ್ರತಿ ನಿರ್ಧಾರವು ವಿವರಿಸಬಹುದಾದ ತಾರ್ಕಿಕತೆಯನ್ನು ಹೊಂದಿದೆ ಎಂದು ನಾನು ಖಚಿತಪಡಿಸಿದೆ.
- [ ] ನಾನು ಗ್ರಾಹಕರಿಗೆ ವಸ್ತು ಮತ್ತು ಮಾನವ ವಿಮರ್ಶೆಯ ಹಕ್ಕನ್ನು ನೀಡಿದ್ದೇನೆ.
- [ ] ನಾನು "ಹಿಟ್" ಆಧಾರದ ಮೇಲೆ ತಾರತಮ್ಯದ ಕೆಂಪು ರೇಖೆಯನ್ನು ಸಹ ದಾಟಲಿಲ್ಲ.