ಭ್ರಮೆ

ವ್ಯಾಖ್ಯಾನ

AI ನಲ್ಲಿ, ಭ್ರಮೆಗಳು ಎಂದರೆ ಒಂದು ಮಾದರಿಯು ನಿರರ್ಗಳವಾಗಿ ಆದರೆ ವಾಸ್ತವಿಕವಾಗಿ ತಪ್ಪಾದ ಅಥವಾ ಅಸಂಬದ್ಧವಾದ ಔಟ್‌ಪುಟ್‌ಗಳನ್ನು ಉತ್ಪಾದಿಸುವ ನಿದರ್ಶನಗಳನ್ನು ಸೂಚಿಸುತ್ತದೆ. ಇದು ವಿಶೇಷವಾಗಿ ದೊಡ್ಡ ಭಾಷಾ ಮಾದರಿಗಳು ಮತ್ತು ಉತ್ಪಾದಕ AI ಗಳಲ್ಲಿ ಸಾಮಾನ್ಯವಾಗಿದೆ.

ಉದ್ದೇಶ

ಭ್ರಮೆಗಳನ್ನು ಅಧ್ಯಯನ ಮಾಡುವುದರಿಂದ ಮಾದರಿ ವಿಶ್ವಾಸಾರ್ಹತೆ ಮತ್ತು ಸುರಕ್ಷತೆಯನ್ನು ಸುಧಾರಿಸಲು ಸಹಾಯ ಮಾಡುತ್ತದೆ. ಇದು ಡೆವಲಪರ್‌ಗಳಿಗೆ ತಪ್ಪಾದ ಔಟ್‌ಪುಟ್‌ಗಳನ್ನು ಪತ್ತೆಹಚ್ಚಲು ಮತ್ತು ಕಡಿಮೆ ಮಾಡಲು ಸುರಕ್ಷತಾ ಕ್ರಮಗಳನ್ನು ವಿನ್ಯಾಸಗೊಳಿಸಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ.

ಪ್ರಾಮುಖ್ಯತೆ

• ಗಮನಹರಿಸದಿದ್ದರೆ AI ಮೇಲಿನ ನಂಬಿಕೆ ಕಡಿಮೆಯಾಗುತ್ತದೆ.
• ಆರೋಗ್ಯ ರಕ್ಷಣೆ ಅಥವಾ ಕಾನೂನಿನಂತಹ ಸೂಕ್ಷ್ಮ ಅನ್ವಯಿಕೆಗಳಲ್ಲಿ ಹಾನಿಯನ್ನುಂಟುಮಾಡಬಹುದು.
• ಪ್ರಸ್ತುತ ಉತ್ಪಾದಕ ಮಾದರಿಗಳ ಮಿತಿಗಳನ್ನು ಎತ್ತಿ ತೋರಿಸುತ್ತದೆ.
• ವಾಸ್ತವಿಕ ಗ್ರೌಂಡಿಂಗ್ ಮತ್ತು ಮರುಪಡೆಯುವಿಕೆ ವಿಧಾನಗಳಲ್ಲಿ ಸಂಶೋಧನೆಯನ್ನು ನಡೆಸುತ್ತದೆ.

ಇದು ಹೇಗೆ ಕೆಲಸ ಮಾಡುತ್ತದೆ

1. ಮಾದರಿಯು ಪ್ರಾಂಪ್ಟ್ ಅಥವಾ ಪ್ರಶ್ನೆಯನ್ನು ಸ್ವೀಕರಿಸುತ್ತದೆ.
2. ಕಲಿತ ಮಾದರಿಗಳ ಆಧಾರದ ಮೇಲೆ ಔಟ್‌ಪುಟ್ ಅನ್ನು ಉತ್ಪಾದಿಸುತ್ತದೆ, ಸತ್ಯ ಪರಿಶೀಲನೆಯಲ್ಲ.
3. ತೋರಿಕೆಯಂತೆ ತೋರಬಹುದು ಆದರೆ ತಪ್ಪು ಫಲಿತಾಂಶಗಳನ್ನು ನೀಡಬಹುದು.
4. ಪತ್ತೆ ಮತ್ತು ತಿದ್ದುಪಡಿ ತಂತ್ರಗಳನ್ನು ಅನ್ವಯಿಸಲಾಗುತ್ತದೆ (ಉದಾ, RAG).

ಉದಾಹರಣೆಗಳು (ವಾಸ್ತವ ಪ್ರಪಂಚ)

• ಕೇಳಿದಾಗ ChatGPT ಸಾಂದರ್ಭಿಕವಾಗಿ ತಪ್ಪಾದ ಸಂಗತಿಗಳನ್ನು ನೀಡುತ್ತದೆ.
• ಗೂಗಲ್ ಬಾರ್ಡ್‌ನ ಆರಂಭಿಕ ಡೆಮೊ ವಾಸ್ತವಿಕ ತಪ್ಪುಗಳನ್ನು ತೋರಿಸಿದೆ.
• AI- ರಚಿತವಾದ ವೈದ್ಯಕೀಯ ಸಲಹೆಯು ಕೆಲವೊಮ್ಮೆ ತಪ್ಪುಗಳನ್ನು ಹೊಂದಿರುತ್ತದೆ.

ಉಲ್ಲೇಖಗಳು / ಹೆಚ್ಚಿನ ಓದಿಗೆ

• “ದೊಡ್ಡ ಭಾಷಾ ಮಾದರಿಗಳಲ್ಲಿ ಭ್ರಮೆಗಳನ್ನು ಕಡಿಮೆ ಮಾಡುವುದು” - arXiv ಪೂರ್ವಮುದ್ರಣ.
• NIST AI ಅಪಾಯ ನಿರ್ವಹಣಾ ಚೌಕಟ್ಟು.
• ಮಿಚೆಲ್ ಮತ್ತು ಇತರರು. “ಮಾದರಿ ವರದಿಗಾಗಿ ಮಾದರಿ ಕಾರ್ಡ್‌ಗಳು.” ACM FAccT.
• AI ಭ್ರಮೆಯ ಕಾರಣಗಳು