Model mental dan antipola
Model mental adalah konsep penting dalam UX dan desain produknamun hal ini harus lebih mudah diterima oleh komunitas AI. Pada satu tingkat, model mental sering kali tidak muncul karena merupakan pola rutin asumsi kita tentang sistem AI. Ini adalah sesuatu yang kami diskusikan panjang lebar dalam proses penyusunan volume terbaru Radar Teknologi Karya Pikiranlaporan dua tahunan berdasarkan pengalaman kami bekerja dengan klien di seluruh dunia.
Misalnya, kami berseru kepuasan dengan kode yang dihasilkan AI Dan mengganti pemrograman berpasangan dengan AI generatif sebagai dua praktik yang kami yakini harus dihindari oleh para praktisi karena popularitas asisten pengkodean AI terus meningkat. Keduanya muncul dari model mental buruk yang gagal memahami cara kerja teknologi ini dan keterbatasannya. Konsekuensinya adalah semakin meyakinkan dan “manusiawi” alat-alat tersebut, semakin sulit bagi kita untuk mengetahui bagaimana teknologi sebenarnya bekerja dan keterbatasan “solusi” yang diberikannya kepada kita.
Tentu saja, bagi mereka yang menerapkan AI generatif ke seluruh dunia, risikonya serupa, bahkan mungkin lebih besar. Meskipun tujuan di balik alat-alat tersebut biasanya adalah untuk menciptakan sesuatu yang meyakinkan dan bermanfaat, jika alat-alat tersebut menyesatkan, mengelabui, atau bahkan sekadar meresahkan pengguna, maka nilai dan manfaat alat-alat tersebut akan hilang. Tidak mengherankan jika undang-undang, seperti UU AI UE, yang mewajibkan pembuat konten palsu untuk memberi label pada konten sebagai “yang dibuat oleh AI”, sedang disahkan untuk mengatasi masalah ini.
Perlu diperhatikan bahwa ini bukan hanya masalah AI dan robotika. Pada tahun 2011, rekan kami Martin Fowler menulis tentang bagaimana pendekatan tertentu membangun aplikasi seluler lintas platform dapat menciptakan lembah yang luar biasa, “di mana sebagian besar hal berfungsi seperti… kontrol asli tetapi terdapat perbedaan kecil yang cukup untuk membuat pengguna bingung.”
Secara khusus, Fowler menulis sesuatu yang menurut kami bersifat instruktif: “platform yang berbeda memiliki cara berbeda yang mereka harapkan untuk Anda gunakan sehingga mengubah keseluruhan desain pengalaman.” Intinya di sini, jika diterapkan pada AI generatif, adalah bahwa konteks yang berbeda dan kasus penggunaan yang berbeda semuanya memiliki serangkaian asumsi dan model mental yang berbeda yang berubah pada titik mana pengguna mungkin akan terjatuh ke dalam lembah yang luar biasa. Perbedaan halus ini mengubah pengalaman atau persepsi seseorang terhadap keluaran model bahasa besar (LLM).
Misalnya, bagi peneliti obat yang menginginkan data sintetik dalam jumlah besar, akurasi pada tingkat mikro mungkin tidak penting; bagi pengacara yang mencoba memahami dokumentasi hukum, keakuratan sangat penting. Faktanya, terjun ke lembah yang luar biasa mungkin hanya menjadi sinyal untuk mundur dan menilai kembali ekspektasi Anda.
Mengubah perspektif kita
Lembah AI generatif yang luar biasa mungkin meresahkan, bahkan sesuatu yang ingin kita minimalkan, namun hal ini juga harus mengingatkan kita akan keterbatasan AI generatif—hal ini akan mendorong kita untuk memikirkan kembali perspektif kita.
Ada beberapa upaya menarik untuk melakukan hal itu di seluruh industri. Salah satu yang menonjol adalah Ethan Mollick, seorang profesor di Universitas Pennsylvania, yang berpendapat bahwa AI tidak boleh dipahami sebagai perangkat lunak yang baik, melainkan sebagai “orang yang cukup baik.”
Mohon maaf, Foto memang tidak relevan. Jika keberatan atau harus diedit baik Artikel maupun foto Silahkan Klik Laporkan. Terima Kasih
