Berita Huruf R dalam “RAG” Berarti “Royalti” – O’Reilly

AI generatif mungkin merupakan teknologi baru yang inovatif, tetapi juga menimbulkan banyak komplikasi yang merusak kepercayaan terhadapnya, yang banyak di antaranya menjadi dasar tuntutan hukum. Akankah kreator dan penerbit konten di web terbuka mendapatkan pengakuan langsung dan kompensasi yang adil atas kontribusi karya mereka terhadap platform AI? Akankah ada kemampuan untuk menyetujui partisipasi mereka dalam sistem semacam itu sejak awal? Dapatkah halusinasi benar-benar dikendalikan? Dan apa yang akan terjadi pada kualitas konten di masa depan dengan gelar sarjana hukum?

Meskipun kecerdasan sempurna tidak mungkin dalam pengertian sintetis maupun organik, pengambilan kembali generatif yang ditingkatkan (RAG) mesin pencari mungkin menjadi kunci untuk mengatasi banyak masalah yang kami sebutkan di atas. Model AI generatif dilatih pada repositori informasi dan media yang besar. Mereka kemudian dapat menerima permintaan dan menghasilkan keluaran berdasarkan bobot statistik model yang telah dilatih sebelumnya dari korpora tersebut. Namun, mesin RAG bukanlah model AI generatif melainkan sistem penalaran terarah dan jalur yang menggunakan LLM generatif untuk membuat jawaban yang didasarkan pada sumber. Proses yang membantu menginformasikan konstruksi jawaban berkualitas tinggi, terverifikasi kebenarannya, dan didukung kutipan ini memiliki harapan besar untuk menghasilkan mesin sosial dan ekonomi digital untuk menghargai sumbernya dan membayarnya secara bersamaan. Itu mungkin.

Ini bukan hanya sekedar teori; ini adalah solusi yang lahir dari praktik langsung yang diterapkan. Selama empat tahun terakhir, platform pembelajaran O'Reilly dan misoLab AI berita dan media milik O'Reilly telah bekerja sama erat untuk membangun solusi yang mampu menjawab pertanyaan pelajar dengan andal, memberikan penghargaan kepada sumber yang digunakan untuk menghasilkan jawaban, dan kemudian membayar royalti kepada sumber tersebut atas kontribusi mereka. Dan dengan rilis terbaru O'Reilly Answers, gagasan tentang mesin royalti yang membayar kreator secara adil kini menjadi kenyataan praktis sehari-hari—dan inti dari keberhasilan kemitraan kedua organisasi dan pertumbuhan berkelanjutan bersama.

Bagaimana O'Reilly Answers Terbentuk

O'Reilly adalah platform pembelajaran yang berfokus pada teknologi yang mendukung pembelajaran berkelanjutan bagi tim teknologi. Platform ini menawarkan banyak buku, kursus sesuai permintaan, acara langsung, postingan singkat, lab interaktif, daftar putar pakar, dan banyak lagi—yang dibentuk dari konten milik ribuan penulis independen, pakar industri, dan beberapa penerbit pendidikan terbesar di dunia. Untuk memelihara dan mempertahankan pengetahuan para anggotanya, O'Reilly membayar royalti dari pendapatan langganan yang dihasilkan berdasarkan cara peserta didiknya berinteraksi dengan dan menggunakan karya para pakar di platform pembelajaran. Organisasi ini memiliki batasan yang jelas: jangan pernah melanggar mata pencaharian kreator dan karya mereka.

Meskipun platform pembelajaran O'Reilly menyediakan konten yang sangat berlimpah bagi para pelajar, banyaknya informasi (dan keterbatasan pencarian kata kunci) terkadang membuat para pembaca kewalahan saat mencoba menyaringnya untuk menemukan apa yang perlu mereka ketahui. Akibatnya, keahlian yang kaya ini terperangkap dalam sebuah buku, di balik tautan, dalam sebuah bab, atau terkubur dalam sebuah video, mungkin tidak akan pernah terlihat. Platform tersebut membutuhkan cara yang lebih efektif untuk menghubungkan pelajar secara langsung dengan informasi utama yang mereka cari. Hadirlah tim di Miso.

Para pendiri Miso, Lucky Gunasekara dan Andy Hsieh, adalah veteran Small Data Lab di Cornell Tech, yang dikhususkan untuk pendekatan AI pribadi untuk personalisasi imersif dan eksplorasi yang berpusat pada konten. Mereka memperluas pekerjaan mereka di Miso untuk membangun infrastruktur yang mudah diakses bagi penerbit dan situs web dengan model AI canggih untuk pencarian, penemuan, dan periklanan yang dapat bersaing ketat dalam hal kualitas dengan para raksasa Big Tech. Dan Miso telah membangun mesin pencari berbasis LLM awal menggunakan model BERT sumber terbuka yang menyelidiki makalah penelitian—yang dapat mengambil kueri dalam bahasa alami dan menemukan potongan teks dalam dokumen yang menjawab pertanyaan itu dengan keandalan dan kelancaran yang mengejutkan. Pekerjaan awal itu mengarah pada kolaborasi dengan O'Reilly untuk membantu memecahkan tantangan pencarian dan penemuan khusus pembelajaran pada platform pembelajarannya.

Hasilnya adalah mesin pencari LLM pertama O'Reilly, O'Reilly Answers yang asli. Anda dapat membaca sedikit tentangnya cara kerja internaltetapi pada intinya, itu adalah mesin RAG minus “G” untuk “generative.” Berkat BERT yang merupakan sumber terbuka, tim di Miso mampu menyempurnakan kemampuan pemahaman kueri Answers terhadap ribuan pasangan pertanyaan-jawaban dalam pembelajaran daring untuk menjadikannya tingkat ahli dalam memahami pertanyaan dan mencari cuplikan yang konteks dan kontennya relevan dengan pertanyaan tersebut. Pada saat yang sama, Miso melakukan chunking dan pemetaan metadata yang mendalam dari setiap buku dalam katalog O'Reilly untuk menghasilkan penyematan cuplikan vektor yang diperkaya dari setiap karya. Paragraf demi paragraf, metadata mendalam dihasilkan yang menunjukkan dari mana setiap cuplikan bersumber, dari teks judul, bab, bagian, dan subbagian hingga kode atau gambar terdekat dalam sebuah buku.

Penggabungan model Tanya Jawab khusus ini dengan penyimpanan vektor konten O'Reilly yang diperkaya ini berarti bahwa pembaca dapat mengajukan pertanyaan dan mendapatkan jawaban yang bersumber langsung dari pustaka judul O'Reilly—dengan jawaban cuplikan yang disorot langsung di dalam teks dan kutipan tautan mendalam ke sumbernya. Dan karena ada alur data yang jelas untuk setiap jawaban yang diambil oleh mesin ini, O'Reilly memiliki forensik yang siap membayar royalti untuk setiap jawaban yang diberikan untuk memberi kompensasi yang adil kepada komunitas penulis perusahaan karena memberikan nilai langsung kepada pelajar.

Bagaimana Jawaban O'Reilly Berkembang

Maju cepat ke masa kini, Miso dan O'Reilly telah mengembangkan sistem dan nilai-nilai di baliknya lebih jauh lagi. Jika rilis Answers asli adalah LLM-driven pengambilan kembali mesin, versi baru Answers hari ini adalah LLM-driven riset mesin (dalam arti sebenarnya). Bagaimanapun, penelitian hanya sebaik referensi Anda, dan tim di kedua organisasi tersebut sangat memahami bahwa kemungkinan halusinasi dan jawaban yang tidak berdasar dapat membingungkan dan membuat frustrasi pelajar. Jadi, tim Miso menghabiskan waktu berbulan-bulan melakukan R&D internal tentang cara yang lebih baik untuk mendasarkan dan memverifikasi jawaban—dalam prosesnya, mereka menemukan bahwa mereka dapat mencapai kinerja yang semakin baik dengan mengadaptasi beberapa model agar dapat bekerja sama.

Intinya, rilis Jawaban O'Reilly terbaru adalah serangkaian pekerja LLM. Masing-masing memiliki keahlian dan keterampilan tersendiri, dan mereka bekerja sama untuk berkolaborasi saat mereka menerima pertanyaan atau permintaan, menalar apa maksudnya, meneliti kemungkinan jawaban, dan mengevaluasi serta menganalisis penelitian ini secara kritis sebelum menulis jawaban yang didukung kutipan. Untuk lebih jelasnya, rilis Jawaban baru ini bukanlah LLM besar yang telah dilatih pada konten dan karya penulis. Tim Miso memiliki keyakinan yang sama dengan O'Reilly untuk tidak mengembangkan LLM tanpa penghargaan, persetujuan, dan kompensasi dari kreator. Dan mereka telah belajar melalui pekerjaan sehari-hari mereka tidak hanya dengan O'Reilly tetapi juga dengan penerbit seperti Dunia MacBahasa Indonesia: CIO.comBahasa Indonesia: Dapur Uji AmerikaDan Waktu Perawatan bahwa ada lebih banyak nilai dalam melatih LLM untuk menjadi ahli dalam penalaran terhadap konten ahli daripada melatih mereka untuk secara generatif memuntahkan konten ahli tersebut sebagai respons terhadap suatu perintah.

Hasil akhirnya adalah bahwa O'Reilly Answers sekarang dapat meneliti dan menjawab pertanyaan secara kritis dalam respons bentuk panjang yang jauh lebih kaya dan lebih mendalam sambil mempertahankan kutipan dan referensi sumber yang sangat penting dalam rilis aslinya.

Rilis Answers terbaru kembali dibuat dengan model sumber terbuka—dalam hal ini, Llama 3. Ini berarti bahwa pustaka model khusus untuk penelitian, penalaran, dan penulisan oleh para ahli sepenuhnya bersifat pribadi. Dan lagi, meskipun model-model tersebut telah disempurnakan untuk menyelesaikan tugas-tugas mereka pada tingkat ahli, mereka tidak dapat mereproduksi karya-karya penulis secara penuh. Tim-tim di O'Reilly dan Miso sangat antusias dengan potensi LLM sumber terbuka karena evolusinya yang cepat berarti menghadirkan terobosan-terobosan baru bagi para pelajar sambil mengendalikan apa yang dapat dan tidak dapat dilakukan oleh model-model ini dengan konten dan data O'Reilly.

Manfaat membangun Answers sebagai jalur penelitian, penalaran, dan penulisan menggunakan LLM sumber terbuka terkemuka saat ini adalah bahwa ketahanan pertanyaan yang dapat dijawabnya akan terus meningkat, tetapi sistem itu sendiri akan selalu didasarkan pada komentar ahli asli yang berwibawa dari konten di platform pembelajaran O'Reilly. Setiap jawaban masih berisi kutipan bagi pelajar untuk menggali lebih dalam, dan perhatian telah diberikan untuk memastikan bahasanya tetap sedekat mungkin dengan apa yang dibagikan para ahli pada awalnya. Dan ketika sebuah pertanyaan melampaui batas kutipan yang memungkinkan, alat tersebut akan menjawab “Saya tidak tahu” daripada mengambil risiko berhalusinasi.

Yang terpenting, sama seperti versi asli Answers, arsitektur untuk rilis terbaru menyediakan data forensik yang menunjukkan kontribusi setiap karya penulis yang dirujuk dalam sebuah jawaban. Hal ini memungkinkan O'Reilly untuk membayar para ahli atas karya mereka dengan royalti AI generatif pertama di jenisnya sekaligus memungkinkan mereka untuk berbagi pengetahuan mereka dengan lebih mudah dan langsung dengan komunitas pembelajar global yang menjadi tujuan platform O'Reilly dibangun.

Nantikan lebih banyak pembaruan segera saat O'Reilly dan Miso berupaya untuk mendapatkan contoh kode yang dapat dikompilasi dalam jawaban dan lebih banyak kemampuan percakapan dan generatif. Mereka sudah mengerjakan rilis Jawaban mendatang dan ingin mendengar umpan balik dan saran tentang apa yang dapat mereka buat selanjutnya.