Berita OpenAI o1 mengancam akan melarang pengguna ketika bertanya tentang alasannya

Sejak OpenAI meluncurkan model AI 'Strawberry' minggu lalu, sejumlah klaim bermunculan yang menunjukkan perusahaan tersebut mengirimkan email peringatan kepada pengguna yang menanyakan alasannya.

Pratinjau o1 diumumkan pada tanggal 12 September, dijuluki 'Strawberry', setelah berbulan-bulan beredar rumor tentang seperti apa model berikutnya.

Itu model o1 Dikatakan memiliki kemampuan penalaran yang ditingkatkan, dengan seri baru yang “dirancang untuk menghabiskan lebih banyak waktu berpikir sebelum mereka merespons.”

Karena rincian tentang model bahasa besar telah dibagikan, Ars Technica melaporkan bahwa OpenAI mengancam akan melarang pengguna yang mencoba membuat alat tersebut mengungkapkan cara berpikirnya.

Beberapa pengguna mengklaim bahwa bertanya tentang alasan OpenAI telah membuat mereka diperingatkan

Beberapa pengguna menggunakan media sosial untuk membagikan tangkapan layar mereka setelah meminta alat tersebut, o1-pratinjau, tentang jejak penalarannya. Ars menemukan beberapa pengguna mengklaim bahwa penggunaan kata 'penalaran' saja sudah cukup untuk menyebabkan peringatan.

Tertawa terbahak-bahak foto.twitter.com/qbnIMXkCcm

— Dyusha Gritsevskiy (@dyushag) 12 Sep 2024

Dalam gambar, LLM tidak membalas karena peringatan berwarna merah ditampilkan dengan tulisan: “Permintaan Anda ditandai sebagai pelanggaran potensial terhadap kebijakan penggunaan kami. Silakan coba lagi dengan perintah yang berbeda.”

tidak tidak tidak tunggu itu hanya candaan maafku tidak foto.twitter.com/sRpbJu5Ar4

—Riley Goodside (@goodside) 14 Sep 2024

Marco Figueroa, yang mengelola program bug bounty GenAI Mozilla, membagikan peringatan OpenAI-nya di X Jumat lalu. Ia berkata: “Saya terlalu asyik fokus pada #AIRedTeaming hingga tidak menyadari bahwa saya menerima email ini dari OpenAI kemarin setelah semua jailbreak saya!

“…Saya sekarang masuk dalam daftar orang yang akan diblokir!!!”

Aku terlalu tenggelam dalam fokus #AIRedTeaming untuk menyadari bahwa saya menerima email ini dari @OpenAI kemarin setelah semua jailbreak saya! #openAI kami sedang meneliti untuk kebaikan!

Anda memiliki tempat berlindung yang aman di situs Anda https://t.co/R2UChZc9RO
dan Anda memiliki kebijakan yang diterapkan dengan… foto.twitter.com/ginDvNlN6M

—Marco Figueroa (@MarcoFigueroa) 13 Sep 2024

Dalam sebuah posting blog yang diterbitkan pada tanggal 12 September, berjudul 'Belajar Berpikir dengan LLM,' OpenAI mengatakan mereka “percaya bahwa rangkaian pemikiran tersembunyi menghadirkan peluang unik untuk memantau model.”

Mereka mengatakan bahwa setelah mempertimbangkan berbagai faktor termasuk pengalaman pengguna, keunggulan kompetitif, dan opsi untuk melakukan pemantauan rangkaian pemikiran, mereka “telah memutuskan untuk tidak menunjukkan rangkaian pemikiran mentah kepada pengguna.

“Kami mengakui bahwa keputusan ini memiliki kekurangan. Kami berusaha untuk mengatasinya sebagian dengan mengajarkan model untuk mereproduksi ide-ide yang berguna dari rangkaian pemikiran dalam jawaban. Untuk seri model o1, kami menunjukkan ringkasan rangkaian pemikiran yang dihasilkan model.”

Gambar Pilihan: Via Midjourney

Pos OpenAI o1 mengancam akan melarang pengguna ketika bertanya tentang alasannya muncul pertama kali di BacaTulis.

Sumber

Mohon maaf, Foto memang tidak relevan. Jika keberatan atau harus diedit baik Artikel maupun foto Silahkan Klik Laporkan. Terima Kasih

Berita OpenAI o1 mengancam akan melarang pengguna ketika bertanya tentang alasannya

Beberapa pengguna mengklaim bahwa bertanya tentang alasan OpenAI telah membuat mereka diperingatkan

Also Read

Berita Ulasan 'Star Trek: Lower Decks' Musim 5: Salah satu komedi TV terbaik akan segera berakhir

Berita Bisakah Pepe Unchained Memimpin Siklus Super Koin Meme senilai $1 Triliun?

Berita Jawaban teka-teki silang mini NYT untuk 27 Oktober

Berita PS5 tidak mau hidup? Berikut beberapa perbaikan agar konsol Anda dapat berjalan

Berita Petunjuk NYT Strands, jawaban untuk 26 Oktober

Tags

Popular Berita

Navigasi