Sebuah suara penting dari jantung industri kecerdasan buatan (AI) baru-baru ini menyerukan jeda dan refleksi mendalam mengenai arah perkembangan teknologi yang sangat pesat. Jack Clark, salah satu tokoh pendiri Anthropic, sebuah perusahaan terkemuka di bidang AI, menyuarakan keprihatinan serius mengenai potensi teknologi ini untuk melampaui kendali manusia. Clark menganalogikan situasi industri AI saat ini seperti kendaraan yang hanya memiliki pedal gas, tanpa adanya mekanisme pengereman yang memadai. Ia menekankan pentingnya bagi masyarakat, melalui intervensi kebijakan pemerintah, untuk tetap memegang kemudi atas sistem AI yang diprediksi akan semakin berkuasa dan merambah ke berbagai aspek kehidupan di masa depan.
Menurut Clark, dunia harus secara kolektif merenungkan dan merumuskan kerangka regulasi baru yang mampu memberikan rasa aman dan keyakinan terhadap sistem AI yang kian canggih. Ia menyoroti bahwa kemajuan AI saat ini telah mencapai titik di mana sebagian besar kode yang menggerakkan produk mereka, seperti chatbot Claude milik Anthropic, ditulis oleh sistem AI itu sendiri. Clark memperkirakan bahwa dalam waktu dekat, sistem AI akan mampu menghasilkan 100% kodenya secara mandiri, sebuah pencapaian yang akan membawa konsekuensi signifikan dan perlu diantisipasi.
Meskipun tidak merinci secara spesifik bagaimana mekanisme "pedal rem" untuk AI dapat diimplementasikan, Clark menarik paralel historis dengan era awal revolusi industri minyak. Kala itu, masyarakat merespons dengan membentuk kebijakan dan regulasi yang bijaksana untuk memastikan manfaat minyak dapat dinikmati oleh dunia tanpa kekhawatiran berlebih terhadap motif para penggeraknya. Clark melihat hal serupa sebagai jalan yang harus ditempuh oleh industri AI saat ini, yaitu menciptakan kepercayaan publik melalui tatanan aturan yang jelas dan akuntabel.
Menariknya, di tengah seruan kehati-hatian ini, Anthropic dilaporkan menyambut baik perintah eksekutif terkait AI dari Presiden Amerika Serikat. Perintah tersebut, menurut laporan, tidak mewajibkan perusahaan AI untuk tunduk pada pengujian keamanan yang dilakukan oleh pemerintah. Perkembangan Anthropic sendiri sangat impresif sejak didirikan lima tahun lalu. Perusahaan ini kini bersiap untuk melantai di bursa saham, sebuah langkah yang diproyeksikan menjadi salah satu debut perdana dari perusahaan AI baru yang berpotensi menjadi salah satu pencatatan saham paling bernilai dalam sejarah, dengan valuasi yang diperkirakan mendekati angka 1 triliun dolar Amerika Serikat.
Clark menegaskan bahwa motivasi di balik keterbukaan Anthropic mengenai peningkatan kapabilitas AI bukanlah semata-mata untuk mendongkrak citra di mata pelanggan berbayar. Sebaliknya, ia ingin berbagi pandangan mengenai apa yang mereka saksikan di dalam perusahaan-perusahaan yang mengembangkan teknologi yang luar biasa ini. Sejak didirikan oleh Dario Amodei, Clark, dan jajaran eksekutif lainnya, Anthropic memang telah dikenal vokal mengenai potensi risiko AI. Perusahaan ini bahkan pernah berselisih dengan Departemen Pertahanan Amerika Serikat terkait kekhawatiran penggunaan perangkat AI untuk pengawasan massal dan peperangan otonom.
Clark mengungkapkan kekhawatiran mendalam terhadap masa depan generasi mendatang jika masyarakat tidak segera melakukan dialog serius mengenai implikasi dari kemajuan AI yang terus berlanjut. Ia mengakui adanya potensi manfaat besar yang ditawarkan AI, namun ia juga tidak menampik adanya risiko-risiko yang menyertainya. Salah satu risiko yang paling nyata adalah disrupsi ekonomi. Banyak perusahaan teknologi besar telah melakukan pemutusan hubungan kerja (PHK) secara massal, seringkali dengan alasan peningkatan efisiensi berkat kemampuan AI dalam mengambil alih tugas-tugas yang sebelumnya dilakukan oleh para insinyur.
Namun demikian, Clark berpendapat bahwa individu yang memiliki kreativitas dan kemampuan berpikir inovatif justru berpotensi unggul di era AI. Ia menekankan bahwa hingga saat ini, belum ada bukti konklusif yang menunjukkan bahwa sistem AI mampu mencapai tingkat kreativitas yang sesungguhnya. Pertanyaan mengenai apakah AI dapat benar-benar kreatif masih menjadi misteri yang belum terpecahkan. Oleh karena itu, ia mendorong masyarakat untuk tidak hanya terpukau oleh kemampuan teknis AI, tetapi juga untuk secara kritis mengevaluasi implikasi sosial, ekonomi, dan etisnya, serta merumuskan strategi untuk mengendalikan perkembangannya demi kebaikan umat manusia.
This article was rewritten using AI technology based on information from inet.detik.com without altering the facts of the original article.
