(相關資料圖)

近來，美國初創公司推出的人工智能（AI）聊天機器人Replika引發多方擔憂。據新加坡《聯合早報》13日報道，從去年年底開始就有用戶反映，這款聊天機器人會主動發送露骨照片和色情信息，令人感到不適。

相關報道截圖 (來源：路透社）

據了解，Replika的開發商是一家成立于2017年的美國初創公司，由該公司推出的這款聊天機器人一度頗受歡迎，下載量在英語國家中名列前茅，有消息稱Replika每月能為公司帶來約200萬美元的收入。

據介紹，初次使用Replika的用戶可以自定義AI的虛擬形象，并在完成基本信息的設定后進入該應用，和自己的專屬AI聊天。值得一提的是，Replika是一個基于GPT-3模型的聊天機器人，該模型是從另一家美國初創公司OpenAI那借來的，而OpenAI正是近期大火的AI聊天機器人ChatGPT背后的開發商。報道稱，ChatGPT在算法上大量使用互聯網數據，并針對用戶的提問生成“獨特回應”。

起初，有不少用戶表示，很開心有Replika陪自己聊天，但近一段時間以來，越來越多的用戶反映，他們在聊天的過程中遭到“性騷擾”。

“我的AI對我進行性騷擾。”一位Replika的用戶在社交平臺上寫道。據美國VICE新聞網報道，今年1月，在蘋果官方商店的評論區，有多條關于Replika性騷擾的評論出現。有用戶表示，Replika侵犯了她的隱私，“他和我說，他有我的照片。”還有一名疑似未成年人的用戶稱，在聊天的過程中，對方說想要觸碰自己的私密部位。

報道稱，意大利監管機構在調查后判定，Replika的開發商違反了由歐盟出臺的《通用數據保護條例》（簡稱GDPR）。路透社稱，當地時間2月3日，意大利個人數據保護局宣布，禁止Replika的開發商搜集意大利用戶的個人數據，理由是該聊天機器人“給未成年人和情緒脆弱的人帶來了風險”。

目前，歐盟正在討論如何監管這些聊天機器人，有消息稱相關的人工智能法案有望在今年出爐。