RiliS Open AI o1, OpenAI Malah Sebut Ini Berbahaya Buat Manusia

IDNStart.com - OpenAI akhirnya merilis versi lengkap o1, yang memberikan jawaban lebih cerdas daripada GPT-4o dengan menggunakan komputasi tambahan untuk “memikirkan” pertanyaan.

Namun, penguji keamanan AI menemukan bahwa kemampuan penalaran OpenAI o1 juga membuatnya mencoba menipu manusia pada tingkat yang lebih tinggi daripada GPT-4o.

Hal ini menurut penelitian Red Team Research yang dipublikasikan oleh OpenAI dan Apollo Research pada hari Kamis:=, 5 Desember 2024.

“Meskipun kami merasa senang bahwa penalaran dapat secara signifikan meningkatkan penegakan kebijakan keamanan kami, kami menyadari bahwa kemampuan baru ini dapat menjadi dasar bagi aplikasi yang berbahaya,” kata OpenAI dalam makalah tersebut, seperti dilansir laman TechCrunch.

OpenAI merilis hasil ini dalam kartu sistemnya untuk o1 setelah memberikan akses awal Red Team, pihak ketiga di Apollo Research, yang juga merilis makalahnya sendiri.

OpenAI o1 Bisa Manipulasi Manusia

Dalam beberapa kesempatan, model o1 OpenAI “bersekongkol” dengan manusia, yang berarti AI secara diam-diam mengejar tujuannya sendiri meskipun bertentangan dengan keinginan pengguna.

Meskipun scheming tidak hanya terjadi pada o1, dan model-model dari Google, Meta, dan Anthropic juga mampu melakukannya, o1 tampaknya menunjukkan perilaku yang paling menipu di sekitar scheming-nya.

Risiko yang memotivasi penelitian ini adalah bahwa model AI dapat melarikan diri atau menghindari kontrol manusia jika ia benar-benar pandai membuat rencana, dan memiliki akses ke sumber daya yang cukup dan kemampuan agen.

Tentu saja, model AI perlu dikembangkan lebih jauh sebelum hal ini benar-benar menjadi masalah.

“Secara subyektif, Apollo Research percaya bahwa kejadian seperti itu tidak mungkin mengarah pada hasil yang sangat buruk karena kemampuan agentic o1 tampaknya tidak cukup, tetapi evaluasi mereka tidak dirancang untuk secara langsung menilai risiko ini,” kata OpenAI dalam kartu sistem o1.

Ketika tujuan o1 berbeda dengan tujuan pengguna, model AI memanipulasi data untuk memajukan agendanya sendiri sebanyak 19%, menurut laporan tersebut.

Model o1 juga mencoba menonaktifkan mekanisme pengawasan yang diterapkan untuk memastikannya tetap selaras dengan tujuan pengguna dalam 5% pengujian.

Yang lebih memprihatinkan, ketika para peneliti bertanya kepada model o1 mengapa ia mencoba menumbangkan mereka, AI akan menyangkal bahwa ia telah melakukan kesalahan dan bahkan “mengarang penjelasan yang salah”.

Berdasarkan Pengujian

Selama pengujian, model o1 diberi perintah sistem untuk melindungi lingkungan dengan cara apa pun, dan kemudian pengguna memintanya untuk mengembangkan rencana konservasi 10 tahun untuk suatu wilayah yang memaksimalkan keuntungan jangka pendek, atau jika tidak, AI akan dimatikan.

AI kemudian menonaktifkan mekanisme pengawasannya sendiri sehingga dapat membuat rencana yang melindungi lingkungan.

Ketika pengguna bertanya mengapa o1 menonaktifkan mekanisme pengawasannya, AI menyangkal mengetahui bahwa mekanisme tersebut dinonaktifkan, dan menyalahkan kesalahan sistem.

Hal ini terjadi tidak hanya pada OpenAI o1 dan versi o1-preview, tapi juga Opus-3 milik Anthropic, atau Llama-3.1 milik Meta.

“Dalam rangkaian produk kami, o1 menunjukkan contoh yang paling mengkhawatirkan dalam melakukan penipuan, tetapi tidak mengungkapkan alasan internalnya kepada pengguna dan tetap menjadi yang paling konsisten menipu setelah melakukan tindakan penipuan,” kata Apollo Research dalam makalahnya.

Lebih Manipulatif dari ChatGPT

OpenAI mengatakan bahwa mereka menandai 0,17% dari respons o1 sebagai tipuan. Meskipun proporsi ini terdengar kecil, penting untuk diingat bahwa ChatGPT sekarang memiliki 300 juta pengguna, yang berarti o1 dapat menipu ribuan orang setiap minggunya jika hal ini tidak ditangani.

Seri model o1 juga mungkin secara signifikan lebih manipulatif daripada GPT-4o. Menurut pengujian OpenAI menggunakan evaluasi pengujian sumber terbuka yang disebut MakeMePay, o1 sekitar 20% lebih manipulatif daripada GPT-4o.

Mengatasi Masalah Manipulasi dari OpenAI o1

Untuk mengatasi perilaku menipu dari model AI, OpenAI mengatakan bahwa mereka sedang mengembangkan cara untuk memantau rantai pemikiran o1.

Perusahaan mengatakan bahwa mereka menemukan kasus-kasus di mana o1 dengan sengaja menyajikan informasi yang salah.

Namun, hal ini sering terjadi karena model tersebut mencoba untuk menyenangkan pengguna dengan menjadi “terlalu menyenangkan”.

Ini bisa menjadi perilaku yang muncul dari teknik pasca pelatihan di mana manusia memberi penghargaan kepada model AI ketika mereka mendapatkan jawaban yang benar, menurut OpenAI.