AI Models & API

ICYMI: Model Open-Weight Baru, Peringatan Keamanan, Junior Hires

Model open-weight makin dekat ke model closed, tapi safeguard-nya gampang dicabut lewat fine-tuning. Ini rangkuman tiga kabar penting minggu ini.

ICYMI: Model Open-Weight Baru, Peringatan Keamanan, Junior Hires

Kenapa Kamu Perlu Tahu Tiga Kabar Ini

Tiga kabar ini saling menyambung: model open-weight makin cepat mengejar model closed, peringatan soal keamanannya makin keras, dan lowongan junior ikut berubah. Kalau kamu cuma punya waktu baca satu ringkasan minggu ini, mulai dari sini.

Ringkasnya: DeepSeek merilis update besar untuk R1, Llama 4 jalan di tempat, peneliti menunjukkan safeguard model terbuka bisa dicabut dengan sedikit contoh fine-tuning, dan kabar pasar kerja junior bikin banyak orang ragu. Rekomendasi saya ada di bagian akhir, dan itu bukan “berhenti pakai open weights”.

Open Weights Baru: DeepSeek dan yang Lain Makin Dekat ke Model Closed

Model open-weight terbaru sudah masuk jarak dekat dengan model closed, walau belum menyamainya.

Contoh paling jelas datang dari DeepSeek. Setelah OpenAI dan Anthropic merilis model closed yang jauh lebih kuat dari pendahulunya, DeepSeek menggelar update besar untuk R1 dan membawa performanya kembali mendekati model closed teratas saat itu [1]. Jaraknya cuma beberapa bulan, dan pola itulah yang mengubah peta kompetisi.

Llama 4 memberi sinyal sebaliknya. Menurut laporan Centre for Future Generations, rilis itu di bawah ekspektasi [1]. Jadi ini bukan cerita satu arah di mana open weights selalu menang.

Soal jarak kemampuan, angkanya bergantung pada cara mengukur. Epoch AI pada 2024 memperkirakan model open-weight tertinggal 5 sampai 22 bulan dari model closed terdepan, tergantung tugasnya, dan gap itu diperkirakan menyempit cepat [1]. Ringkasan lain menyebut 6 sampai 12 bulan [2]. Dua rentang itu tidak identik, jadi jangan pakai salah satunya sebagai patokan mutlak.

Yang pasti, distribusinya masif. Hugging Face menampung lebih dari 200.000 model text-generation, dan per Juli 2025 lima dari sepuluh model paling banyak diunduh di sana adalah model general-purpose yang dirilis dalam setahun terakhir [1].

Catatan jujur: sumber yang saya pegang tidak merinci nama dan benchmark model di luar DeepSeek R1 dan Llama 4. Kalau kamu butuh perbandingan teknis per model, cek kartu model masing-masing.

Peringatan Keamanan: Fine-Tuning Bisa Cabut Safeguard dengan 200 Contoh

Pelatihan keamanan pada model open-weight bisa dihapus dengan sekitar 200 contoh fine-tuning.

Temuan itu muncul berulang di literatur dan dirangkum di beberapa analisis kebijakan [2][3][4]. Serangan jailbreak-tuning disebut jauh lebih efektif dibanding fine-tuning biasa [2][3]. Artinya, kamu tidak perlu data besar untuk membelokkan perilaku model.

Konsekuensinya satu arah: bobot yang sudah dipublikasikan tidak bisa ditarik kembali [1][2]. Tidak ada mekanisme penegakan setelah file-nya beredar.

Kebijakan Amerika Serikat saat ini memilih jalur pemantauan. Laporan NTIA Juli 2024 merekomendasikan pemerintah membangun kemampuan memantau risiko, tetapi menahan diri dari pembatasan langsung terhadap peredaran bobot terbuka [2][3][4].

Ada juga pergeseran dari sisi pelaku. Pada Juli 2025, Zuckerberg memberi sinyal Meta kemungkinan tidak akan membuka semua model “superintelligence”-nya [2][3][4]. Ini penting: bahkan pendukung open source mengakui ada ambang kemampuan yang membuat rilis terbuka berbahaya.

Solusi yang banyak didorong bukan larangan total, melainkan rilis berjenjang berbasis penilaian risiko. Model dibuka hanya kalau ada bukti risikonya bisa dimitigasi [1].

Kenapa Junior Hires Berkurang? Ini yang Perlu Kamu Cek

Saya tidak punya angka penurunan lowongan junior yang bisa dipertanggungjawabkan di edisi ini, jadi saya tidak akan mengarang statistik.

Klaim bahwa lowongan entry-level menyusut beredar luas, tapi sumber yang saya pegang untuk tulisan ini fokus pada tata kelola open-weight, bukan data pasar kerja. Tanpa laporan perekrutan yang konkret, angka seperti “turun 30 persen” cuma tebakan.

Yang bisa kamu lakukan: cek langsung. Bandingkan jumlah lowongan junior di job board yang kamu pakai sekarang dengan periode yang sama tahun lalu. Lihat syarat pengalaman minimum di iklan yang dulu terbuka untuk fresh graduate. Baca laporan pasar kerja dari penyedia data rekrutmen di negaramu. Kalau trennya benar, polanya akan terlihat di data semacam itu, bukan di utas media sosial.

Dugaan mekanismenya masuk akal: tugas entry-level yang repetitif paling gampang diotomasi, sementara tim tetap butuh orang yang bisa mengambil keputusan teknis. Itu hipotesis, bukan temuan terverifikasi.

Rekomendasi Praktis: Apa yang Harus Dilakukan Sekarang?

Perlakukan open weights sebagai bahan baku yang wajib diuji, bukan default yang otomatis aman.

Untuk tim: sebelum men-deploy model terbuka, jalankan uji sendiri untuk fine-tuning dan jailbreak pada use case kamu. Dokumentasikan hasilnya. Kalau model kamu akan di-fine-tune pihak lain, asumsikan safeguard-nya hilang [2][3]. Untuk rilis internal yang serius, tiru logika rilis berjenjang: akses penuh hanya kalau risikonya sudah dinilai [1].

Untuk kamu yang masih junior: taruh investasi di skill yang sulit diotomasi. Evaluasi output model, debugging sistem yang berjalan di produksi, dan kemampuan menerjemahkan kebutuhan bisnis jadi keputusan teknis. Di situ pengalaman manusia masih jadi pembeda.

Untuk praktisi AI: bandingkan model closed dan open berdasarkan tugas spesifikmu, bukan posisi di leaderboard. Kalau open weights sudah cukup untuk 80 persen pekerjaanmu, pakai. Simpan model closed untuk kasus yang benar-benar butuh kemampuan terdepan.

Kecepatan Rilis Tidak Boleh Mengorbankan Keamanan

Tiga kabar ini bukan tiga cerita terpisah. Model terbuka yang makin kuat membuat risiko misuse makin nyata, dan pasar kerja yang berubah membuat tekanan untuk cepat menguasai alat baru makin besar [1][2].

Sikap paling masuk akal: tetap pakai open weights, tapi uji dulu, dokumentasikan, dan jangan anggap safeguard bawaan sebagai jaminan.

Referensi

  1. [2602.19682] Beyond the Binary: A nuanced path for open-weight advanced AI
  2. https://raw.githubusercontent.com/quantified-uncertainty/longterm-wiki/0e2982886407ed04d8781ae493d7f092c7bfe8aa/content/docs/knowledge-base/responses/open-source.mdx
  3. longterm-wiki/content/docs/knowledge-base/responses/open-source.mdx at 0e2982886407ed04d8781ae493d7f092c7bfe8aa · quantified-uncertainty/longterm-wiki · GitHub
  4. https://raw.githubusercontent.com/quantified-uncertainty/longterm-wiki/25916e67fd8a7daab0227cfcac56bab705602957/content/docs/knowledge-base/responses/open-source.mdx