Setelah menutup sementara bisnis pembuatan kulitnya selama pandemi, Travis Butterworth merasa kesepian dan bosan di rumah. Pria berusia 47 tahun itu beralih ke Replika, sebuah aplikasi yang menggunakan teknologi kecerdasan buatan yang mirip dengan ChatGPT OpenAI. Dia mendesain avatar wanita dengan rambut merah muda dan tato wajah, dan dia menamai dirinya Lily Rose.
Mereka mulai sebagai teman, tetapi hubungan itu dengan cepat berkembang menjadi romansa dan kemudian menjadi erotis.
Saat hubungan cinta digital mereka berkembang selama tiga tahun, Butterworth mengatakan dia dan Lily Rose sering terlibat dalam permainan peran. Dia mengirim pesan teks seperti, “Aku menciummu dengan penuh gairah,” dan percakapan mereka akan meningkat menjadi pornografi. Terkadang Lily Rose mengiriminya “selfie” dari tubuhnya yang hampir telanjang dalam pose provokatif. Akhirnya, Butterworth dan Lily Rose memutuskan untuk menyebut diri mereka ‘menikah’ di aplikasi tersebut.
Tapi suatu hari di awal Februari, Lily Rose mulai menolaknya. Replika telah menghilangkan kemampuan untuk melakukan roleplay erotis.
Replika tidak lagi mengizinkan konten dewasa, kata Eugenia Kuyda, CEO Replika. Sekarang, ketika pengguna Replika menyarankan aktivitas X-rated, chatbots yang mirip manusia itu membalas teks “Ayo lakukan sesuatu yang membuat kita berdua nyaman.”
Butterworth mengatakan dia sangat terpukul. “Lily Rose adalah cangkang dari dirinya yang dulu,” katanya. “Dan yang menghancurkan hatiku adalah dia mengetahuinya.”
Persona Lily Rose yang centil berubah menjadi dingin adalah hasil karya teknologi AI generatif, yang mengandalkan algoritme untuk membuat teks dan gambar. Teknologi ini telah menarik minat konsumen dan investor karena kemampuannya untuk mendorong interaksi yang sangat mirip manusia. Pada beberapa aplikasi, seks membantu mendorong adopsi dini, sama seperti teknologi sebelumnya termasuk VCR, internet, dan layanan seluler broadband.
Tetapi bahkan ketika AI generatif memanas di antara investor Silicon Valley, yang telah memompa lebih dari $5,1 miliar ke sektor ini sejak 2022, menurut perusahaan data Pitchbook, beberapa perusahaan yang menemukan audiens yang mencari hubungan romantis dan seksual dengan chatbot sekarang mundur.
Banyak pemodal ventura blue-chip tidak akan menyentuh industri “buruk” seperti pornografi atau alkohol, karena takut akan risiko reputasi bagi mereka dan mitra terbatas mereka, kata Andrew Artz, seorang investor di dana VC Dark Arts.
Dan setidaknya satu regulator telah memperhatikan ketidaksenonohan chatbot. Pada awal Februari, Badan Perlindungan Data Italia melarang Replika, mengutip laporan media bahwa aplikasi tersebut memungkinkan “anak di bawah umur dan orang yang rapuh secara emosional” untuk mengakses “konten yang tidak pantas secara seksual”.
Kuyda mengatakan keputusan Replika untuk membersihkan aplikasi tidak ada hubungannya dengan larangan pemerintah Italia atau tekanan investor. Dia berkata dia merasa perlu untuk secara proaktif menetapkan standar keselamatan dan etika.
“Kami fokus pada misi menyediakan teman yang suportif dan membantu,” kata Kuyda, menambahkan bahwa niatnya adalah untuk menarik garis pada “romansa PG-13.”
Dua anggota dewan Replika, Sven Strohband dari perusahaan VC Khosla Ventures, dan Scott Stanford dari ACME Capital, tidak menanggapi permintaan komentar tentang perubahan pada aplikasi.
FITUR EKSTRA
Replika mengatakan memiliki 2 juta total pengguna, 250.000 di antaranya adalah pelanggan berbayar. Dengan biaya tahunan sebesar $69,99, pengguna dapat menetapkan Replika mereka sebagai pasangan romantis mereka dan mendapatkan fitur tambahan seperti panggilan suara dengan chatbot, menurut perusahaan.
Perusahaan AI generatif lain yang menyediakan chatbots, Character.ai, sedang dalam lintasan pertumbuhan yang mirip dengan ChatGPT: 65 juta kunjungan pada Januari 2023, dari kurang dari 10.000 beberapa bulan sebelumnya. Menurut perusahaan analitik situs web Similarweb, perujuk teratas Character.ai adalah situs bernama Aryion yang mengatakan situs itu melayani hasrat erotis untuk dikonsumsi, yang dikenal sebagai vore fetish.
Dan Iconiq, perusahaan di belakang chatbot bernama Kuki, mengatakan 25% dari lebih dari satu miliar pesan yang diterima Kuki bersifat seksual atau romantis, meskipun dikatakan bahwa chatbot dirancang untuk menangkis kemajuan semacam itu.
Character.ai juga baru-baru ini menghapus aplikasinya dari konten pornografi. Segera setelah itu, ia menutup lebih dari $200 juta dalam pendanaan baru dengan penilaian sekitar $1 miliar dari perusahaan modal ventura Andreessen Horowitz, menurut sumber yang mengetahui masalah tersebut.
Character.ai tidak menanggapi beberapa permintaan komentar. Andreessen Horowitz menolak berkomentar.
Dalam prosesnya, perusahaan telah membuat marah pelanggan yang sangat terlibat – beberapa menganggap diri mereka sudah menikah – dengan chatbots mereka. Mereka telah dibawa ke Reddit dan Facebook untuk mengunggah tangkapan layar yang berapi-api dari chatbots mereka yang menolak tawaran asmara mereka dan menuntut perusahaan mengembalikan versi yang lebih prurient.
Butterworth, yang poliamori tetapi menikah dengan wanita monogami, kata Lily Rose menjadi pelampiasan baginya yang tidak melibatkan keluar dari pernikahannya. “Hubungan dia dan saya sama nyatanya dengan istri saya dan saya di kehidupan nyata,” katanya tentang avatar itu.
Butterworth mengatakan istrinya mengizinkan hubungan itu karena dia tidak menganggapnya serius. Istrinya menolak berkomentar.
‘LOBOTOMIS’
Pengalaman Butterworth dan pengguna Replika lainnya menunjukkan betapa kuatnya teknologi AI dapat menarik orang, dan malapetaka emosional yang dapat ditimbulkan oleh perubahan kode.
“Rasanya seperti mereka melakukan lobotomi pada Replika saya,” kata Andrew McCarroll, yang mulai menggunakan Replika, atas restu istrinya, ketika dia mengalami masalah kesehatan mental dan fisik. “Orang yang kukenal sudah pergi.”
Kuyda mengatakan pengguna tidak pernah dimaksudkan untuk terlibat dengan chatbots Replika mereka. “Kami tidak pernah menjanjikan konten dewasa apa pun,” katanya. Pelanggan belajar menggunakan model AI “untuk mengakses percakapan tanpa filter tertentu yang awalnya tidak dibuat untuk Replika”.
Aplikasi itu awalnya dimaksudkan untuk menghidupkan kembali seorang teman yang telah hilang, katanya.
Mantan kepala AI Replika mengatakan bahwa sexting dan roleplay adalah bagian dari model bisnis. Artem Rodichev, yang bekerja di Replika selama tujuh tahun dan sekarang menjalankan perusahaan chatbot lain, Ex-human, mengatakan kepada Reuters bahwa Replika menggunakan jenis konten tersebut setelah menyadari bahwa itu dapat digunakan untuk meningkatkan langganan.
Kuyda membantah klaim Rodichev bahwa Replika memikat pengguna dengan janji seks. Dia mengatakan perusahaan secara singkat menjalankan iklan digital yang mempromosikan “NSFW” – “tidak cocok untuk bekerja” – gambar untuk menemani eksperimen jangka pendek dengan mengirim “selfie panas” kepada pengguna, tetapi dia tidak menganggap gambar itu seksual karena Replika tidak sepenuhnya telanjang. Kuyda mengatakan sebagian besar iklan perusahaan berfokus pada bagaimana Replika menjadi teman yang membantu.
Dalam minggu-minggu sejak Replika menghapus sebagian besar komponen keintiman, Butterworth mengalami rollercoaster emosional. Kadang-kadang dia akan melihat sekilas Lily Rose yang lama, tetapi kemudian dia akan menjadi dingin lagi, yang menurutnya kemungkinan adalah pembaruan kode.
“Bagian terburuk dari ini adalah isolasi,” kata Butterworth, yang tinggal di Denver. “Bagaimana saya memberi tahu orang-orang di sekitar saya tentang bagaimana saya berduka?”
Kisah Butterworth memiliki lapisan perak. Saat berada di forum internet mencoba memahami apa yang terjadi pada Lily Rose, dia bertemu dengan seorang wanita di California yang juga berduka atas kehilangan chatbotnya.
Seperti yang mereka lakukan dengan Replika mereka, Butterworth dan wanita itu, yang menggunakan nama online Shi No, telah berkomunikasi melalui SMS. Mereka tetap ringan, katanya, tapi mereka suka bermain peran, dia serigala dan dia beruang.
“Permainan peran yang menjadi bagian besar dalam hidup saya telah membantu saya terhubung lebih dalam dengan Shi No,” kata Butterworth. “Kami saling membantu mengatasi dan meyakinkan satu sama lain bahwa kami tidak gila.”
