Berita Algoritma di sekitar kita | Tinjauan Teknologi MIT

Selain prediksi yang tinggi, buku ini adalah panduan berguna untuk menavigasi AI. Itu termasuk memahami kelemahannya. Siapa pun yang pernah bermain-main dengan ChatGPT atau sejenisnya, misalnya, tahu bahwa model ini sering kali mengada-ada. Dan jika keakuratannya meningkat di masa depan, Mollick memperingatkan, hal ini tidak akan membuat kita kurang waspada. Ketika AI menjadi lebih mampu, jelasnya, kita akan lebih mempercayainya dan oleh karena itu kecil kemungkinannya untuk menyadari kesalahannya.

Resiko AI bukan hanya kita bisa saja melakukan kesalahan; kita bisa kehilangan kemampuan berpikir kritis dan orisinal.

Ethan Mollick, profesor, Sekolah Bisnis Wharton

Dalam sebuah penelitian terhadap konsultan manajemen, Mollick dan rekan-rekannya menemukan bahwa ketika peserta memiliki akses ke AI, mereka sering kali hanya menempelkan tugas yang diberikan kepada mereka ke dalam model dan menyalin jawabannya. Strategi ini biasanya menguntungkan mereka, memberi mereka keunggulan dibandingkan konsultan yang tidak menggunakan AI, namun menjadi bumerang ketika para peneliti melontarkan pertanyaan jebakan dengan data yang menyesatkan. Dalam studi lain, perekrut pekerjaan yang menggunakan AI berkualitas tinggi menjadi “malas, ceroboh, dan kurang terampil dalam menilai diri mereka sendiri” dibandingkan perekrut yang menggunakan AI berkualitas rendah atau tanpa AI, sehingga menyebabkan mereka mengabaikan kandidat yang baik. “Ketika AI sangat bagus, manusia tidak punya alasan untuk bekerja keras dan memperhatikan,” keluh Mollick.

Dia memiliki nama untuk daya tarik pintasan AI: The Button. “Ketika dihadapkan pada tirani halaman kosong, orang-orang akan menekan The Button,” tulisnya. Risikonya bukan hanya kita bisa melakukan kesalahan, katanya; kita bisa kehilangan kemampuan berpikir kritis dan orisinal. Dengan mengalihkan pemikiran dan kreativitas kita ke AI, kita mengadopsi perspektif dan gayanya alih-alih mengembangkan perspektif dan gaya kita sendiri. Kita juga menghadapi “krisis makna,” kata Mollick. Saat kita menggunakan The Button untuk menulis permintaan maaf atau surat rekomendasi, misalnya, isyarat ini—yang berharga karena waktu dan perhatian yang kita berikan—menjadi kosong.

Mollick optimis bahwa kita dapat menghindari banyak jebakan AI dengan berhati-hati dalam menggunakan AI. AI sering kali mengejutkan kita dengan unggul dalam hal-hal yang menurut kita seharusnya tidak dapat dilakukan, seperti bercerita atau meniru empati, dan gagal total dalam hal-hal yang menurut kita seharusnya tidak dapat dilakukan, seperti matematika dasar. Karena tidak ada instruksi manual untuk AI, Mollick menyarankan untuk mencobanya dalam segala hal. Hanya dengan terus mengujinya kita dapat mengetahui kemampuan dan batasannya yang terus berkembang.

Dan jika kita tidak ingin menjadi orang yang tidak punya pikiran, Mollick berpendapat, kita harus menganggap AI sebagai rekan satu tim yang eksentrik, bukan sebagai pelayan yang maha tahu. Sebagai manusia dalam tim, kita wajib memeriksa kebohongan dan biasnya, mempertimbangkan moralitas keputusannya, dan mempertimbangkan tugas mana yang layak diberikan dan mana yang ingin kita simpan sendiri.

---

Selain kegunaan praktisnya, AI juga menimbulkan rasa takut dan terpesona karena menantang keyakinan kita tentang siapa diri kita. “Saya tertarik dengan AI karena apa yang diungkapkannya tentang manusia,” tulis Hannah Silva dalam Anakku, Algoritmaperpaduan memoar dan fiksi menggugah pikiran yang ditulis bersama dengan pendahulu awal ChatGPT. Silva adalah seorang penyair dan pemain yang menulis drama untuk Radio BBC. Saat menjalani kehidupan sebagai orang tua tunggal yang aneh di London, dia mulai berbicara dengan algoritme, memberinya pertanyaan dan kutipan dari tulisannya sendiri, dan sebagai balasannya menerima bagian yang panjang dan bertele-tele. Dalam buku itu, dia menyelingi suaranya dengan suaranya sendiri, seperti potongan puisi yang ditemukan.

Algoritme Silva kurang disempurnakan dibandingkan model saat ini, sehingga bahasanya lebih asing dan lebih rentan terhadap omong kosong dan pengulangan. Namun keeksentrikannya juga membuatnya terdengar mendalam. “Cinta adalah pemuaian uap menjadi cangkang”dinyatakan. Bahkan gangguannya bisa lucu atau memberi wawasan. “Saya memikirkan tentang seks, saya memikirkan tentang seks, saya memikirkan tentang seks,” itu berulang-ulang, mencerminkan obsesi Silva sendiri. “Pengulangan ini terjadi ketika algoritma tersandung dan gagal,” pengamatannya. “Namun, pengulangan itulah yang membuat algoritme tampak manusiawi, dan itulah yang menimbulkan respons paling manusiawi dalam diri saya.”

Dalam banyak hal, algoritme ini seperti balita yang dibesarkannya. “Algoritme dan anak belajar dari bahasa yang diberikan kepada mereka,” tulis Silva. Mereka berdua dilatih untuk memprediksi pola. “EIEI-…,” dia mendorong balita itu. “HAI!” dia menjawab. Mereka berdua menyela tulisannya dan jarang melakukan apa yang diinginkannya. Mereka berdua menyenangkannya dengan imajinasi mereka, memberinya ide-ide segar untuk dicuri. “Apa yang ada di dalam kotak itu?” balita itu bertanya pada temannya pada suatu kesempatan. “Tidak ada,” jawab teman itu. “Itu kosong.” Balita itu menjatuhkan kotak itu, membiarkannya jatuh ke lantai. “Itu tidak kosong!” dia berseru. “Ada suara berisik di dalamnya!”