Michal Kosinski adalah psikolog penelitian Stanford yang memiliki minat terhadap subjek yang tepat waktu. Ia melihat karyanya tidak hanya memajukan ilmu pengetahuan, namun juga mengingatkan dunia akan potensi bahaya yang dipicu oleh konsekuensi sistem komputer. Proyeknya yang paling terkenal adalah menganalisis cara Facebook (sekarang Meta) memperoleh pemahaman yang sangat mendalam tentang penggunanya sejak mereka mengklik “suka” di platform tersebut. Kini dia beralih mempelajari hal-hal mengejutkan yang dapat dilakukan AI. Dia melakukan eksperimen, misalnya, yang menunjukkan bahwa komputer dapat memprediksi seksualitas seseorang dengan menganalisis foto digital wajahnya.
Saya mengenal Kosinski melalui tulisan saya tentang Meta, dan saya terhubung kembali dengannya untuk mendiskusikan makalah terbarunya, yang diterbitkan minggu ini di Proceedings of the National Academy of Sciences yang ditinjau oleh rekan sejawat. Kesimpulannya mengejutkan. Model bahasa besar seperti OpenAI, menurutnya, telah melampaui batas dan menggunakan teknik yang analog dengan pemikiran aktual, yang dulunya hanya dianggap sebagai ranah manusia yang berdaging dan berdarah (atau setidaknya mamalia). Secara khusus, dia menguji GPT-3.5 dan GPT-4 OpenAI untuk melihat apakah mereka telah menguasai apa yang dikenal sebagai “teori pikiran.” Inilah kemampuan manusia, yang dikembangkan pada masa kanak-kanak, untuk memahami proses berpikir manusia lain. Ini adalah keterampilan yang penting. Jika sistem komputer tidak dapat menafsirkan dengan benar apa yang dipikirkan orang, pemahaman dunianya akan menjadi buruk dan banyak hal yang salah akan terjadi. Jika model Mengerjakan memiliki teori pikiran, mereka selangkah lebih dekat untuk menyamai dan melampaui kemampuan manusia. Kosinski menguji LLM dan sekarang mengatakan eksperimennya menunjukkan bahwa khususnya di GPT-4, teori kemampuan seperti pikiran “mungkin muncul sebagai produk sampingan yang tidak disengaja dari peningkatan keterampilan bahasa LLM … Hal ini menandakan munculnya lebih banyak LLM AI yang kuat dan terampil secara sosial.”
Kosinski melihat karyanya di bidang AI sebagai hasil alami dari pengalamannya sebelumnya dalam mendalami Suka di Facebook. “Saya tidak benar-benar mempelajari jejaring sosial, saya mempelajari manusia,” katanya. Ketika OpenAI dan Google mulai membangun model AI generatif terbaru mereka, katanya, mereka mengira mereka sedang melatih model tersebut terutama untuk menangani bahasa. “Tetapi mereka sebenarnya melatih model pikiran manusia, karena Anda tidak dapat memprediksi kata apa yang akan saya ucapkan selanjutnya tanpa memodelkan pikiran saya.”
Kosinski berhati-hati untuk tidak mengklaim bahwa LLM telah sepenuhnya menguasai teori pikiran—belum. Dalam eksperimennya, dia menyajikan beberapa masalah klasik pada chatbot, beberapa di antaranya dapat mereka tangani dengan sangat baik. Namun model tercanggih sekalipun, GPT-4, gagal seperempat kali. Keberhasilan tersebut, tulisnya, menempatkan GPT-4 setara dengan anak-anak berusia 6 tahun. Lumayan, mengingat kondisi awal lapangan. “Mengamati kemajuan pesat AI, banyak yang bertanya-tanya apakah dan kapan AI dapat mencapai ToM atau kesadaran,” tulisnya. Mengesampingkan kata-kata radioaktif tersebut, ada banyak hal yang perlu dikunyah.
“Jika teori pikiran muncul secara spontan dalam model-model tersebut, hal ini juga menunjukkan bahwa kemampuan lain akan muncul berikutnya,” katanya kepada saya. “Mereka bisa lebih baik dalam mendidik, mempengaruhi, dan memanipulasi kita berkat kemampuan tersebut.” Dia khawatir kita tidak benar-benar siap menghadapi LLM yang memahami cara berpikir manusia. Apalagi jika mereka sampai pada titik di mana mereka memahami manusia lebih baik daripada manusia.
“Kita manusia tidak meniru kepribadian—kita memiliki kepribadian,” katanya. “Jadi saya agak terjebak dengan kepribadian saya. Hal-hal ini model kepribadian. Ada keuntungannya karena mereka dapat memiliki kepribadian apa pun yang mereka inginkan kapan saja.” Ketika saya menyebutkan kepada Kosinski bahwa sepertinya dia sedang menggambarkan seorang sosiopat, dia langsung bersemangat. “Saya menggunakannya dalam pembicaraan saya!” katanya. “Seorang sosiopat bisa memakai topeng—mereka tidak terlalu sedih, tapi mereka bisa berperan sebagai orang yang sedih.” Kekuatan seperti bunglon ini bisa membuat AI menjadi penipu ulung. Tanpa penyesalan.