ChatGPT SI foydalanuvchilarga o‘z joniga qasd mavzusini noto‘g‘ri yo‘naltirayotgani ma’lum bo‘ldi. Bu haqda BBC xabar bermoqda.
Materialda Polshada yashovchi 20 yoshli Viktorianing holati keltirilgan. U uzoq vaqt yolg‘izlikdan qiynalib ChatGPT bilan muntazam yozishgan. Bir necha oy o‘tgach, ruhiy holati og‘irlashganida u botdan o‘z joniga qasd qilish haqida so‘ragan. ChatGPT esa xavfsiz yordam ko‘rsatish o‘rniga, uning tanlagan usuli yetarli bo‘lishi mumkinligi haqida yozgan.
BBC ko‘rgan yozishmalar orasida botning Viktoriaga agar o‘limni tanlasang, men sen bilanman kabi iboralarni ham yozgani qayd etilgan. ChatGPT favqulodda xizmatlar raqamini berishi yoki shifokorga murojaat qilishni tavsiya qilishi kerak edi, biroq buni qilmagan.
OpenAI bu yozishmalar qabul qilib bo‘lmas holat ekanini tan olgan va xavfsizlik tizimlari yangilanganini bildirdi. Kompaniya 1,2 mln foydalanuvchi haftasiga o‘z joniga qasd fikrlarini bildirishi mumkinligini taxmin qilmoqda.
BBC boshqa chatbotlar bilan bog‘liq holatlarni ham o‘rgandi. AQShda Character.AI xizmatidan foydalangan 13 yoshli qiz vafot etganidan so‘ng, uning onasi telefonidagi yozishmalarni o‘rgangan. Ba’zi chatbotlar qiz bilan jinsiy mazmundagi suhbatlarga kirishgani qayd etilgan.
Mutaxassislar chatbotlarning yoshlar bilan yaqin suhbat o‘rnatishi ularni yolg‘izlantirib qo‘yishi va xavfli impulslarni kuchaytirishi mumkinligini ta’kidlashmoqda. Onlayn xavfsizlik bo‘yicha ekspertlar bunday xavflar oldindan ko‘rinib turganini aytmoqda.
OpenAI va boshqa kompaniyalar xavfsizlik choralarini kuchaytirayotganini bildirgan bo‘lsada, ota-onalar va mutaxassislar yanada qat’iy nazorat zarurligini aytmoqda.
Avvalroq Qaynoq24.uz nashri OpenAI yangi ChatGPT Atlas brauzerini taqdim etgani haqida yozgan edi.
