Berita Tren Radar yang Perlu Diperhatikan: November 2024

Oktober memiliki banyak rilis model bahasa. Model ukuran menengah, dan bahkan model kecil, mampu mengejar model terdepan seperti GPT-4.5o dalam hal performa. Namun rilis yang mengejutkan kami bukanlah model bahasa: Ini adalah API yang digunakan komputer Claude. Penggunaan komputer memungkinkan Anda mengajari Claude cara menggunakan komputer: cara menjalankan aplikasi, mengklik tombol, dan menggunakan shell atau editor. Ada banyak masalah di negara ini, salah satunya adalah keamanan—namun kondisinya pasti akan membaik. Mengirim tangkapan layar ke Claude sehingga dapat menghitung di mana harus mengklik adalah hal yang paling canggung, dan tidak diragukan lagi ada solusi yang lebih baik (seperti menggunakan alat aksesibilitas). Namun, penggunaan komputer memberi kita gambaran sekilas tentang masa depan di mana kita akan bekerja dengan agen yang dapat merencanakan dan melaksanakan operasi multilangkah yang kompleks.

Table of Contents

AI

Model Bahasa Kecil adalah program pendidikan yang mengajarkan anak-anak tentang probabilitas, kecerdasan buatan, dan topik terkait. Ini menyenangkan dan menyenangkan dan dapat memungkinkan anak-anak membuat model sederhana mereka sendiri.
Grafana dan NVIDIA sedang mengerjakan a model bahasa besar untuk observasirupanya diberi nama yang aneh LLo11yPop. Model ini bertujuan untuk menjawab pertanyaan bahasa alami tentang status dan kinerja sistem berdasarkan data telemetri.
Google adalah sumber terbuka SynthID, sebuah sistem untuk memberi tanda air pada teks sehingga dokumen yang dihasilkan AI dapat dilacak ke LLM yang menghasilkannya. Tanda air tidak mempengaruhi keakuratan atau kualitas dokumen yang dihasilkan. Tanda air SynthID tahan terhadap beberapa gangguan, termasuk pengeditan.
Mistral punya dilepaskan dua model baru, Ministral 3B dan Ministral 8B. Ini adalah model kecil, yang dirancang untuk bekerja pada sistem “edge” yang terbatas sumber dayanya. Tidak seperti kebanyakan model kecil Mistral sebelumnya, model ini bukan open source.
Antropik telah menambahkan “penggunaan komputer” API ke Claude. Penggunaan komputer memungkinkan model untuk mengendalikan komputer dan menggunakannya untuk menemukan data dengan membaca layar, mengklik tombol dan kemampuan lainnya, serta mengetik. Saat ini dalam versi beta.
Nonsen adalah model ucapan-ke-teks sumber terbuka baru yang pernah ada dioptimalkan untuk perangkat kecil dengan sumber daya terbatas. Ia mengklaim akurasi setara dengan Whisper, dengan kecepatan lima kali lipat.
Meta adalah merilis kumpulan data gratis bernama Materi Terbuka 2024 untuk membantu ilmuwan material menemukan material baru.
Anthropic telah menerbitkan beberapa peralatan untuk bekerja dengan Claude di GitHub. Pada titik ini, alat untuk membantu menganalisis data keuangan dan membangun agen dukungan pelanggan tersedia.
NVIDIA punya diluncurkan secara diam-diam Llama-3.1-Nemotron-70B-Instruksikan-HFmodel bahasa yang mengungguli GPT-4o dan Claude 3.5 dalam benchmark. Model ini didasarkan pada Llama open source, dan ukurannya relatif kecil (parameter 70B).
NotebookLM membuat semua orang bersemangat dengan kemampuannya menghasilkan podcast. Google telah mengambil langkah lebih jauh dengan menambahkan alat yang memberi pengguna kontrol lebih besar atas apa yang dikatakan peserta podcast virtual.
Literasi data adalah keterampilan bertahan hidup yang baru: Kita sudah mengetahui hal ini sejak lama, namun hal ini terlalu mudah untuk dilupakan, khususnya di era AI.
Inisiatif Open Source memiliki sikap yang “sederhana” definisi untuk AI sumber terbuka. Definisi tersebut mengakui empat kategori data yang berbeda: terbuka, publik, dapat diperoleh, dan tidak dapat dibagikan.
Apakah pelatihan model AI memerlukan pusat data yang besar? PrimeIntellect adalah melatih model 10B menggunakan sumber daya yang didistribusikan dan dikontribusikan.
OpenAI telah menerbitkan Kawanansebuah platform untuk membangun agen AI, di GitHub. Mereka memperingatkan bahwa Swarm bersifat eksperimental dan mereka tidak akan menanggapi permintaan penarikan. Jangan ragu untuk bergabung dalam eksperimen ini.
OpenAI juga telah dirilis Kanvasalat interaktif untuk menulis kode dan teks dengan GPT-4o. Kanvas mirip dengan milik Claude Artefak.
Dua di antaranya baru dirilis Lama 3.2 model—90B dan 11B—bersifat multimodal. Model 11B akan berjalan dengan nyaman di laptop. Meta juga telah merilis API Tumpukan Llamaserangkaian API untuk membantu pengembang membangun aplikasi AI generatif.
OpenAI punya diumumkan API waktu nyata semu. Tujuan mereka adalah untuk memungkinkan pembuatan aplikasi suara yang realistis, termasuk kemampuan untuk mengganggu AI dalam alur percakapan.
Akankah kacamata bertenaga AI menjadi perangkat konsumen blockbuster berikutnya? Prototipe Orion dari Meta bisa menjadi antarmuka pengguna yang mematikan untuk AI. Ini bukan tentang bermain game; ini tentang menanyakan AI tentang hal-hal yang Anda lihat. Sekarang jika mereka hanya dapat diproduksi dengan harga yang layak.
Avatar AI sedang mewawancarai kandidat pekerjaan. Ini tidak akan berjalan dengan baik…
Institut Allen telah mengembangkan model bahasa kecil yang disebut Molmo mengeklaim memiliki kinerja setara dengan GPT-4o.
Kecerdasan Manusiawisebuah organisasi yang didirikan oleh Rumman Chowdhury, telah menawarkan a hadiah kepada pengembang yang membangun model visi AI yang dapat mendeteksi gambar berbasis kebencian online.
Saat ini, tidak mengherankan jika komputer dapat memainkan catur dan permainan papan lainnya. Tapi tenis meja? Anda mungkin lebih memilih video ke kertas.
Itu keluarga Qwen model bahasa, mulai dari parameter 0,5B hingga 72B, mendapatkan ulasan yang mengesankan. Bahkan yang terbesar pun bisa dibuat dijalankan pada GPU lamabukan hanya H100 dan A100.
Kini AI dapat “membuktikan” bahwa ia adalah manusia. Model visi komputer berbasis AI telah menunjukkan kemampuan untuk mengalahkan CAPTCHA terbaru Google (reCAPTCHAv2) 100% setiap saat.
Open AI kini berkembang akses ke Mode Suara Tingkat Lanjut kepada lebih banyak pengguna. Mode Suara Tingkat Lanjut membuat ChatGPT benar-benar bersifat percakapan: Anda dapat menyela di tengah kalimat, dan ChatGPT merespons nada suara Anda.
Perencanaan gerak saraf adalah teknik berbasis jaringan saraf yang memungkinkan robot melakukannya merencanakan dan melaksanakan tugas di lingkungan yang asing.

Pemrograman

C++ yang aman mengusulkan ekstensi ke bahasa C++ untuk membuatnya memori aman. Kesalahan dalam keamanan memori telah lama menjadi sumber kerentanan keamanan terbesar.
Microsoft melihat GenAIOps sebagai “pergeseran paradigma” TI. Hal ini akan semakin diperlukan karena perangkat lunak yang menggabungkan AI dan tim TI harus menjadi spesialis dalam infrastruktur AI. Salah satu aspek GenAIOps adalah pengumpulan, kurasi, dan pembersihan kumpulan data.
Juli adalah platform sumber terbuka untuk manajemen proyek.
pengetik adalah sistem baru untuk menulis teks ilmiah (dan lainnya). Ini memiliki kemampuan yang setara dengan LaTeX, tetapi sintaksnya jauh lebih sederhana, mirip dengan Markdown.
Microsoft telah memulai proyek yang akan membuat Linux eBPF tersedia di Windows. Di dunia Linux, eBPF telah terbukti sangat berharga untuk alat observasi, keamanan, dan kepatuhan. Windows eBPF akan kompatibel dengan bytecode Linux.
Python 3.13 telah dilepaskan. Perubahan paling penting adalah REPL baru yang menampilkan pengeditan multiline dan dukungan warna; opsi eksperimental untuk menonaktifkan kunci juru bahasa global (GIL); dan kompiler just-in-time eksperimental.
Ziggy adalah bahasa baru untuk serialisasi data. Ini bukan bahasa pemrograman tujuan umum; ini adalah bahasa khusus untuk mendefinisikan skema data secara tepat dan mudah.
Microsoft yang baru Inisiatif yang mengutamakan keamanan terkait dengan upaya rekayasa platform mereka. Rekayasa platform membatasi jumlah alat yang perlu digunakan pengembang, yang pada gilirannya mengurangi jumlah kode yang perlu diamankan dan dipelihara.
CNCF Pusat Artefak adalah a sumber untuk konfigurasi cloud native, plug-in, dan perangkat lunak lain untuk membangun infrastruktur cloud native. Ini bukan repositori seperti GitHub; itu menghubungkan kembali ke sumber artefak daripada menyimpannya.
Ingin lari Linux pada Intel 4004CPU dari tahun 1971? Diperlukan waktu hampir 5 hari untuk boot. Yang lebih menakjubkan lagi adalah ia dijalankan pada emulator yang berjalan pada 4004.

Keamanan

Tidak mengherankan jika injeksi cepat bekerja dengan baik terhadap API penggunaan komputer Anthropic yang luar biasa. Dokumentasi Anthropic memperingatkan banyak kerentanan. Jadi tidak mengherankan juga jika seseorang telah melangkah maju dan mencobanya. Jangan berhenti bereksperimen, tapi hati-hati.
Imprompter adalah serangan terhadap model bahasa besar yang menggunakan perintah berbahaya untuk memaksa model tersebut mengekstrak data dari obrolan sebelumnya.
Salah satu sumber utama kerentanan keamanan adalah kode yang mengandung rahasia (nama akun dan kata sandi, sertifikat, dll.) HashiCorp's Radar Gudang memindai perangkat lunak, termasuk repositori dan permintaan penarikan, untuk mendeteksi rahasia yang telah terungkap.
Peneliti keamanan Mandiant punya telah menemukan bahwa 70% kerentanan yang dieksploitasi pada tahun lalu adalah zero-day—yaitu, kerentanan baru yang belum pernah dilaporkan sebelumnya. Setelah ditemukan, kerentanan segera dijadikan senjata dan digunakan sebagai serangan.
OpenAI punya menutup akun pelaku ancaman yang menggunakan GPT untuk sejumlah aktivitas termasuk mengembangkan malware, menghasilkan dan menyebarkan informasi yang salah, dan phishing. Akan mengejutkan jika pelecehan serupa tidak terjadi pada model lain.
Pembaruan keamanan terbaru GitLab alamat kerentanan yang memungkinkan penyerang memicu pipeline CI/CD di cabang repositori mana pun.
Siswa punya terhubung Kacamata Pintar Ray-Ban Meta ke situs pencarian gambar invasif. Mereka kemudian menggunakan model bahasa untuk mengumpulkan data dari sejumlah database yang berisi informasi pribadi, seperti alamat.
Cloudflare telah memblokir serangkaian serangan penolakan layanan terdistribusi (DDoS), termasuk serangan dengan a kecepatan puncak 3,8 terabit per detiktertinggi yang pernah tercatat.
Di dalam ulasan insidenjangan membahas item tindakan untuk menanggapi insiden tersebut. Tinjauan insiden adalah tentang pembelajaran dan pemahaman; berbicara tentang perbaikan akan menggagalkannya. Perbaikannya selalu dapat didiskusikan nanti, dan akan lebih baik jika didasarkan pada pemahaman yang kuat.
Kita sudah lama mengetahui bahwa persyaratan untuk mengubah kata sandi adalah praktik yang buruk. NIST sekarang melamar aturan yang akan menghilangkan persyaratan komposisi kata sandi, seperti satu huruf kapital, satu angka, dan satu karakter dalam alfabet non-Latin.
A serangan injeksi cepat terhadap memori jangka panjang GPT memungkinkan penyerang mengirim semua input dan output pengguna ke server sewenang-wenang. Serangan ini terus-menerus; itu tetap ada dalam memori jangka panjang GPT. Pada titik ini, sebagian telah diperbaiki.
Kaspersky, yang menutup operasinya di AS, telah menghapus perangkat lunak mereka dari komputer pengguna AS dan dipasang UltraAV Pango Group dan (dalam beberapa kasus) UltraVPN tanpa izin pengguna. Perilaku Kaspersky menimbulkan pertanyaan: Kapan vendor antimalware menjadi malware?

jaring

Video dari XOXO 2024 telah diposting. Molly White dan Erin Kissane sangat direkomendasikan.
Apakah kita memerlukan kerangka web React yang lain? Para pengembang Satu menurutku begitu. Seseorang berjanji untuk menjadi sederhana, berpendirian keras, dan mengutamakan lokal.
Tom Coates punya diumumkan pembentukan Yayasan Web Sosialsebuah organisasi yang berdedikasi untuk membantu jaringan federasi tumbuh dengan cara yang sehat.
Masalah di dunia WordPress: WordPress.org memiliki diblokir Mesin WPpenyedia hosting penting bagi pengguna WordPress, dari mengakses sumber dayanya. Drama pun terjadi, meningkat, dan menjadi semakin ganas.

Perangkat keras

ARM telah membatalkan lisensi yang mengizinkan Qualcomm memproduksi prosesor Snapdragon, yang menjadi dasar sebagian besar ponsel. Apakah ini peluang bagi RISC-V?
Ada sebuah mikroprosesor RISC-V baru itu tidak terbuat dari silikon. Ini fleksibel, berdaya rendah, dan mampu menjalankan beban kerja AI (meskipun dengan kecepatan yang relatif rendah).
Bunnie Huang meninggalkan kita dengan kesadaran yang menakutkan akan hal itu membuat bom menjadi perangkat IoT kecil tidaklah mungkin dilakukan—itu relatif mudah dan murah.