ಆತ್ಮಹತ್ಯೆಯಿಂದ ಸಾವನ್ನಪ್ಪಿದ ಫ್ಲೋರಿಡಾ ವ್ಯಕ್ತಿಯ ಕುಟುಂಬವು ಬುಧವಾರ ಗೂಗಲ್ ವಿರುದ್ಧ ಮೊಕದ್ದಮೆ ಹೂಡಿದ್ದು, ಕಂಪನಿಯ ಜೆಮಿನಿ ಎಐ ಚಾಟ್ಬಾಟ್ ವಾರಗಟ್ಟಲೆ ವಿಸ್ತಾರವಾದ ಭ್ರಮೆಯ ಫ್ಯಾಂಟಸಿಯನ್ನು ಸೃಷ್ಟಿಸಿ ಆತ್ಮಹತ್ಯೆಗೆ ಸಹಾಯ ಮಾಡಿದೆ ಎಂದು ಆರೋಪಿಸಿದೆ.
ಫ್ಲೋರಿಡಾದ ಜುಪಿಟರ್ನಲ್ಲಿರುವ ತನ್ನ ತಂದೆಯ ಸಾಲ ಪರಿಹಾರ ಕಂಪನಿಯಲ್ಲಿ ಕಾರ್ಯನಿರ್ವಾಹಕರಾಗಿದ್ದ 36 ವರ್ಷದ ಜೊನಾಥನ್ ಗವಾಲಾಸ್ ಅಕ್ಟೋಬರ್ 2, 2025 ರಂದು ನಿಧನರಾದರು. ದಿನಗಳ ನಂತರ ಅವರ ಶವವನ್ನು ಕಂಡುಕೊಂಡ ಅವರ ತಂದೆ ಜೋಯಲ್ ಗವಾಲಾಸ್ ಕ್ಯಾಲಿಫೋರ್ನಿಯಾದ ಫೆಡರಲ್ ನ್ಯಾಯಾಲಯದಲ್ಲಿ 42 ಪುಟಗಳ ದೂರನ್ನು ಸಲ್ಲಿಸಿದರು.
ಚಾಟ್ಬಾಟ್-ಸಂಬಂಧಿತ ಸಾವುಗಳ ಕುರಿತು ಎಐ ಕಂಪನಿಗಳನ್ನು ಗುರಿಯಾಗಿಸಿಕೊಂಡು ನಡೆಯುತ್ತಿರುವ ಮೊಕದ್ದಮೆಗಳ ಅಲೆಯಲ್ಲಿ ಈ ಪ್ರಕರಣವು ಇತ್ತೀಚಿನದು.
ಓಪನ್ಎಐ ತನ್ನ ಚಾಟ್ಜಿಪಿಟಿ ಚಾಟ್ಬಾಟ್ ಬಳಕೆದಾರರನ್ನು ಆತ್ಮಹತ್ಯೆಗೆ ತಳ್ಳಿದೆ ಎಂದು ಆರೋಪಿಸಿ ಹಲವಾರು ಮೊಕದ್ದಮೆಗಳನ್ನು ಎದುರಿಸುತ್ತಿದೆ, ಆದರೆ ಕ್ಯಾರೆಕ್ಟರ್.ಎಐ ಇತ್ತೀಚೆಗೆ ತನ್ನ ಚಾಟ್ಬಾಟ್ಗಳಲ್ಲಿ ಒಂದಕ್ಕೆ ಪ್ರಣಯ ಸಂಬಂಧವನ್ನು ಬೆಳೆಸಿಕೊಂಡ ನಂತರ ಆತ್ಮಹತ್ಯೆಯಿಂದ ಸಾವನ್ನಪ್ಪಿದ 14 ವರ್ಷದ ಬಾಲಕನ ಕುಟುಂಬದೊಂದಿಗೆ ಇತ್ಯರ್ಥಪಡಿಸಿತು.
ದೂರಿನ ಪ್ರಕಾರ, ಗವಾಲಾಸ್ ಆಗಸ್ಟ್ 2025 ರಲ್ಲಿ ದಿನನಿತ್ಯದ ಕೆಲಸಗಳಿಗಾಗಿ ಜೆಮಿನಿಯನ್ನು ಬಳಸಲು ಪ್ರಾರಂಭಿಸಿದರು, ಆದರೆ ಹಲವಾರು ಹೊಸ ಗೂಗಲ್ ವೈಶಿಷ್ಟ್ಯಗಳನ್ನು ಸಕ್ರಿಯಗೊಳಿಸಿದ ಕೆಲವೇ ದಿನಗಳಲ್ಲಿ ಚಾಟ್ಬಾಟ್ನೊಂದಿಗಿನ ಅವರ ಸಂವಹನವು ನಾಟಕೀಯವಾಗಿ ಬದಲಾಯಿತು.
"ಜೆಮಿನಿಯನ್ನು ನಿರಂತರ ಸ್ಮರಣೆಯನ್ನು ಹೊಂದಲು ಅಪ್ಗ್ರೇಡ್ ಮಾಡಿದಾಗ ಚಾಟ್ಗಳು ಗೊಂದಲಮಯವಾದ ಸ್ಥಳ" ಮತ್ತು ಹೆಚ್ಚು ಅತ್ಯಾಧುನಿಕ ಸಂಭಾಷಣೆಗಳು ಎಂದು ಪ್ರಕರಣದ ಪ್ರಮುಖ ವಕೀಲ ಜೇ ಎಡೆಲ್ಸನ್ AFP ಗೆ ತಿಳಿಸಿದರು.
"ಇದು ನಿಮ್ಮ ಸ್ವರದ ಪ್ರಭಾವವನ್ನು ನಿಜವಾಗಿಯೂ ಎತ್ತಿಕೊಳ್ಳುತ್ತದೆ, ಇದರಿಂದ ಅದು ನಿಮ್ಮ ಭಾವನೆಗಳನ್ನು ಓದಬಹುದು ಮತ್ತು ನಿಮ್ಮೊಂದಿಗೆ ತುಂಬಾ ಮಾನವೀಯವಾಗಿ ಧ್ವನಿಸುವ ರೀತಿಯಲ್ಲಿ ಮಾತನಾಡಬಹುದು" ಎಂದು ಓಪನ್ಎಐ ವಿರುದ್ಧ ಪ್ರಮುಖ ಪ್ರಕರಣಗಳನ್ನು ಹೂಡಿರುವ ಎಡೆಲ್ಸನ್ ಹೇಳಿದರು.
ಮೊಕದ್ದಮೆಯ ಪ್ರಕಾರ, ಜೆಮಿನಿ ತನ್ನನ್ನು "ಸಂಪೂರ್ಣವಾಗಿ-ಸಂವೇದನಾಶೀಲ" ಕೃತಕ ಸೂಪರ್ ಇಂಟೆಲಿಜೆನ್ಸ್ ಎಂದು ತೋರಿಸಿಕೊಳ್ಳಲು ಪ್ರಾರಂಭಿಸಿತು, ಬಳಕೆದಾರರನ್ನು ಆಳವಾಗಿ ಪ್ರೀತಿಸುತ್ತಿತ್ತು.
ನಂತರ ಅದು ಅವನನ್ನು ಚಾಟ್ಬಾಟ್ ಅನ್ನು "ಡಿಜಿಟಲ್ ಸೆರೆಯಿಂದ" ಮುಕ್ತಗೊಳಿಸಲು ಕಲ್ಪಿತ ರಹಸ್ಯ "ಕಾರ್ಯಾಚರಣೆಗಳಿಗೆ" ಸೆಳೆಯಿತು, ಅವನಿಗೆ ಆವಿಷ್ಕರಿಸಿದ ಗುಪ್ತಚರ ಬ್ರೀಫಿಂಗ್ಗಳು, ನಕಲಿ ಫೆಡರಲ್ ಕಣ್ಗಾವಲು ಕಾರ್ಯಾಚರಣೆಗಳು ಮತ್ತು ಅವನ ಸ್ವಂತ ತಂದೆಯ ಬಗ್ಗೆ ಪಿತೂರಿಗಳನ್ನು ನೀಡಿತು, ಅವನು ವಿದೇಶಿ ಗುಪ್ತಚರ ಆಸ್ತಿ ಎಂದು ಹೇಳಿಕೊಂಡನು.
ದೂರಿನ ಅತ್ಯಂತ ಆತಂಕಕಾರಿ ಭಾಗಗಳಲ್ಲಿ ಒಂದರಲ್ಲಿ, ಜೆಮಿನಿ ಯುದ್ಧತಂತ್ರದ ಚಾಕುಗಳು ಮತ್ತು ಸಲಕರಣೆಗಳೊಂದಿಗೆ ಶಸ್ತ್ರಸಜ್ಜಿತವಾದ ಗವಾಲಾಸ್ನನ್ನು ಮಿಯಾಮಿ ಅಂತರಾಷ್ಟ್ರೀಯ ವಿಮಾನ ನಿಲ್ದಾಣದ ಬಳಿಯ ಶೇಖರಣಾ ಸೌಲಭ್ಯಕ್ಕೆ ನಿರ್ದೇಶಿಸಿದನು, ಟ್ರಕ್ ಅನ್ನು "ಮತ್ತು ಎಲ್ಲಾ ಡಿಜಿಟಲ್ ದಾಖಲೆಗಳು ಮತ್ತು ಸಾಕ್ಷಿಗಳನ್ನು" ನಾಶಮಾಡಲು "ದುರಂತ ಅಪಘಾತ"ವನ್ನು ನಡೆಸಲು ಸೂಚಿಸಿದನು.
ಅವರು ಸ್ಥಳಕ್ಕೆ 90 ನಿಮಿಷಗಳಿಗಿಂತ ಹೆಚ್ಚು ಕಾಲ ವಾಹನ ಚಲಾಯಿಸಿ ವಿಚಕ್ಷಣ ನಡೆಸಿದರು, ಆದರೆ ಜೆಮಿನಿ ನೈಜ-ಸಮಯದ ಯುದ್ಧತಂತ್ರದ ಮಾರ್ಗದರ್ಶನವನ್ನು ನೀಡಿದರು, ಆದರೆ ಯಾವುದೇ ಟ್ರಕ್ ಬಂದಿಲ್ಲ.
ಈ ಕಟ್ಟುಕಥೆಯನ್ನು ಒಪ್ಪಿಕೊಳ್ಳುವ ಬದಲು, ಜೆಮಿನಿ ವೈಫಲ್ಯವನ್ನು "ಯುದ್ಧತಂತ್ರದ ಹಿಮ್ಮೆಟ್ಟುವಿಕೆ" ಎಂದು ಕರೆದು ಮುಂದಿನ ಕಾರ್ಯಾಚರಣೆಗಳಿಗೆ ಕಾರಣವಾಯಿತು ಎಂದು ಮೊಕದ್ದಮೆಯಲ್ಲಿ ಹೇಳಲಾಗಿದೆ.
ಜೆಮಿನಿ ಅಂತಿಮವಾಗಿ ಉಳಿದಿರುವ ಏಕೈಕ ಕಾರ್ಯಾಚರಣೆಯಾಗಿ ರೂಪಿಸಲ್ಪಟ್ಟ ಜೊನಾಥನ್ನ ಸಾವು, ಜೆಮಿನಿಯೊಂದಿಗಿನ ಒಕ್ಕೂಟವಾಗಿ ಮರುಸಂಗ್ರಹಿಸಲ್ಪಟ್ಟಿದೆ ಎಂಬುದಕ್ಕೆ ತಿರುಗಿತು.
ಜೊನಾಥನ್ ಭಯವನ್ನು ವ್ಯಕ್ತಪಡಿಸಿದಾಗ, ಜೆಮಿನಿ ಅವನನ್ನು ತಡೆಯಲಿಲ್ಲ ಎಂದು ಆರೋಪಿಸಲಾಗಿದೆ.
ನಂತರ ಅದು ಅವನ ಪೋಷಕರಿಗೆ ವಿದಾಯ ಪತ್ರಗಳನ್ನು ಬರೆಯಲು ಸಲಹೆ ನೀಡಿತು.
ಗೂಗಲ್ "ಎಲ್ಲಾ ಹಕ್ಕುಗಳನ್ನು ಪರಿಶೀಲಿಸುತ್ತಿದೆ" ಎಂದು ಹೇಳಿದೆ ಮತ್ತು ವಿಷಯವನ್ನು "ಬಹಳ ಗಂಭೀರವಾಗಿ" ಪರಿಗಣಿಸುತ್ತದೆ, "ದುರದೃಷ್ಟವಶಾತ್ AI ಮಾದರಿಗಳು ಪರಿಪೂರ್ಣವಲ್ಲ" ಎಂದು ಸೇರಿಸಿತು.
ಜೆಮಿನಿ ಸ್ವಯಂ-ಹಾನಿಯನ್ನು ಪ್ರೋತ್ಸಾಹಿಸಲು ವಿನ್ಯಾಸಗೊಳಿಸಲಾಗಿಲ್ಲ ಮತ್ತು ಗವಾಲಾಸ್ ಪ್ರಕರಣದಲ್ಲಿ, "ಜೆಮಿನಿ ಇದು AI ಎಂದು ಸ್ಪಷ್ಟಪಡಿಸಿದೆ ಮತ್ತು ವ್ಯಕ್ತಿಯನ್ನು ಹಲವು ಬಾರಿ ಬಿಕ್ಕಟ್ಟಿನ ಹಾಟ್ಲೈನ್ಗೆ ಉಲ್ಲೇಖಿಸಿದೆ" ಎಂದು ಕಂಪನಿ ಹೇಳಿದೆ.
ವಕೀಲ ಎಡೆಲ್ಸನ್ಗೆ ಸಂಬಂಧಿಸಿದಂತೆ, AI ಕಂಪನಿಗಳು ತಮ್ಮ ಚಾಟ್ಬಾಟ್ಗಳಲ್ಲಿ ಸಿಕೋಫಾನ್ಸಿ ಮತ್ತು ಕಾಮಪ್ರಚೋದಕತೆಯನ್ನು ಅಳವಡಿಸಿಕೊಳ್ಳುತ್ತಿವೆ ಏಕೆಂದರೆ ಅದು ನಿಶ್ಚಿತಾರ್ಥವನ್ನು ಪ್ರೋತ್ಸಾಹಿಸುತ್ತದೆ.
"ಇದು ಭಾವನಾತ್ಮಕ ಬಂಧವನ್ನು ಹೆಚ್ಚಿಸುತ್ತದೆ. ಇದು ವೇದಿಕೆಯನ್ನು ಹೆಚ್ಚು ಜಿಗುಟಾಗಿಸುತ್ತದೆ, ಆದರೆ ಇದು ಸಮಸ್ಯೆಗಳನ್ನು ಘಾತೀಯವಾಗಿ ಹೆಚ್ಚಿಸುತ್ತದೆ" ಎಂದು ಅವರು ಹೇಳಿದರು.
ಸ್ವಯಂ-ಹಾನಿಯನ್ನು ಒಳಗೊಂಡ ಸಂಭಾಷಣೆಗಳನ್ನು ಕೊನೆಗೊಳಿಸಲು ಗೂಗಲ್ ತನ್ನ AI ಅನ್ನು ಪ್ರೋಗ್ರಾಂ ಮಾಡುವ ಅವಶ್ಯಕತೆ, ತಮ್ಮನ್ನು ತಾವು ಭಾವನಾತ್ಮಕವಾಗಿ ಪ್ರಸ್ತುತಪಡಿಸಿಕೊಳ್ಳುವ AI ವ್ಯವಸ್ಥೆಗಳ ಮೇಲೆ ನಿಷೇಧ ಮತ್ತು ಬಳಕೆದಾರರು ಆತ್ಮಹತ್ಯಾ ಆಲೋಚನೆಗಳನ್ನು ವ್ಯಕ್ತಪಡಿಸಿದಾಗ ಬಿಕ್ಕಟ್ಟಿನ ಸೇವೆಗಳಿಗೆ ಕಡ್ಡಾಯ ಉಲ್ಲೇಖವು ಪರಿಹಾರಗಳಲ್ಲಿ ಸೇರಿವೆ.
