Semakin Hebat AI, Semakin Perlu Brek? Pengajaran Risiko Perniagaan daripada Amaran Claude Fable 5 | CEO Insights

Kalau anda menggunakan Claude sejak kebelakangan ini, mungkin anda pernah terkejut: permintaan yang biasa-biasa sahaja, tiba-tiba sistem memaparkan amaran keselamatan dan menyekat perbualan itu.

Ini bukan kes terpencil. Selepas Anthropic melancarkan Claude Fable 5, model paling berkebolehan mereka setakat ini, pada bulan Jun, beberapa penyelidik keselamatan siber secara terbuka merungut bahawa mereka sekadar mahu model itu membuat semakan kod asas, tetapi sistem menganggapnya sebagai permintaan berisiko tinggi lalu menyekatnya. Seorang jurutera menyifatkan mekanisme ini seperti padanan kata kunci: asalkan tersentuh sedikit dengan perkataan “keselamatan siber”, permintaan itu mudah turut tersekat.

Bunyinya seperti kecacatan produk, tetapi pada pandangan saya ada persoalan yang lebih besar di sebaliknya:

Apabila teknologi menjadi terlalu berkuasa sehingga boleh disalah guna, adakah “menjadikannya kurang pintar sedikit” satu kesilapan, atau satu pilihan yang disengajakan?

Kandungan

1. Dari pelancaran ke penarikan semula, kemudian dibuka semula
2. Tiada jawapan sifar risiko, yang ada hanyalah proses pembetulan berterusan
3. Bukan sekadar risiko teknikal, risiko kepercayaan sama bahayanya
4. Bagaimana kami melihat perkara ini
5. Penutup: Keupayaan dan kawalan diri ibarat dua sisi syiling
6. FAQ

---

Dari pelancaran ke penarikan semula, kemudian dibuka semula

Versi terdahulu model ini sudah menunjukkan keupayaan luar biasa untuk mencari kelemahan keselamatan semasa ujian dalaman, dan kelemahan yang ditemuinya pula benar-benar boleh dieksploitasi. Di tangan pihak yang bertahan, keupayaan ini senjata yang ampuh; di tangan pihak berniat jahat, ia alat serangan. Sebab itulah Anthropic pada mulanya tidak membuka versi dalaman ini secara meluas.

Garis masa insiden Fable 5

• 9/6: Dilancarkan secara rasmi kepada umum
• 12/6: Laporan pasukan penyelidik Amazon mendedahkan cara memintas perlindungan keselamatan, lalu model ditarik balik serta-merta
• 12/6–30/6: Anthropic bersama kerajaan dan Amazon meneliti semula bukti, dan mendapati risiko ini bukan unik kepada Fable 5
• 1/7: Dibuka semula secara rasmi selepas pengelas baharu dilatih

Pada 9 Jun, Fable 5 dilancarkan secara rasmi, tetapi hanya tiga hari kemudian ia ditarik balik secara mengejut. Pasukan penyelidik Amazon menemui cara untuk memintas perlindungan keselamatannya sehingga model itu mengenal pasti beberapa kelemahan perisian, malah dalam satu kes ia menghasilkan kod yang menunjukkan bagaimana kelemahan itu boleh dieksploitasi. Oleh sebab perintah kawalan eksport Amerika Syarikat menghendaki akses dihadkan bagi warganegara tertentu, sedangkan Anthropic tidak dapat mengesahkan kewarganegaraan pengguna dengan segera, mereka terus menggantung perkhidmatan untuk semua orang, dan penggantungan itu berlarutan selama lapan belas hari.

Perkembangan yang benar-benar menarik berlaku selepas penarikan itu. Anthropic mengambil hampir dua minggu bersama kerajaan dan Amazon untuk meneliti semula laporan tersebut, dan mendapati bahawa model yang kurang berkebolehan seperti Opus 4.8, GPT-5.5 dan Kimi K2.7 juga mampu mengenal pasti kelemahan yang sama dalam laporan itu. Dalam erti kata lain, keupayaan berisiko tinggi yang pada mulanya dianggap “unik” sebenarnya hanyalah kes sempadan hasil penilaian awal mekanisme perlindungan yang agak konservatif, dan tidak bermakna model itu sendiri luar biasa berbahaya.

Pada 1 Julai, selepas melatih generasi baharu pengelas yang didakwa mampu menyekat lebih 99% teknik yang serupa, barulah Fable 5 dibuka semula. Permintaan yang tersekat tidak ditolak terus, sebaliknya diserahkan kepada Opus 4.8 yang risikonya lebih terkawal untuk dijawab. Sebab itulah pengguna yang disekat biasanya masih mendapat jawapan, cuma diproses oleh “otak” yang lebih konservatif.

---

Tiada jawapan sifar risiko, yang ada hanyalah proses pembetulan berterusan

Kembali kepada kekeliruan di awal tadi: kenapa permintaan biasa yang tidak berbahaya pun dinilai sebagai berisiko tinggi? Pihak Anthropic mengakui bahawa buat masa ini kira-kira 5% perbualan tersalah nilai dan dialihkan. Maksudnya, setiap dua puluh perbualan biasa, satu daripadanya disekat tanpa perlu.

Tetapi bagi saya, “ketidaksempurnaan” inilah yang paling menarik untuk direnungkan. Seorang penyelidik keselamatan siber yang berpengalaman mengambil pendirian yang sangat praktikal: lebih baik tersalah sekat sedikit lebih banyak pada peringkat ini, daripada terlalu longgar dari awal; kemudian barulah dilonggarkan secara berperingkat. Kata-kata ini menyerlahkan satu hakikat yang sering terlepas pandang: pengurusan risiko tidak pernah selesai sekali jalan, sebaliknya satu proses dinamik yang memerlukan pengesahan dan pembetulan berterusan.

Malah syarikat di barisan hadapan teknologi seperti Anthropic pun, penilaian risiko pertama mereka bukanlah jawapan muktamad; ia hanya dapat diperbetulkan melalui siasatan susulan. Sikap yang benar-benar matang bukanlah mengejar kesempurnaan sekali gus, tetapi sanggup mengakui bahawa penilaian kita mungkin silap, dan membina mekanisme untuk terus meneliti serta menyesuaikannya.

Tadbir urus risiko bukan kerja sekali siap, tetapi penentukuran yang berterusan.

---

Bukan sekadar risiko teknikal, risiko kepercayaan sama bahayanya

Fable 5 mengingatkan kita tentang penilaian risiko dari sudut teknikal, tetapi pada masa yang sama, satu lagi gergasi CRM, HubSpot, turut memberikan pengajaran praktikal tentang risiko kepercayaan. Pada awal Julai, HubSpot mengumumkan pindaan terma perkhidmatan yang membenarkan data kenalan pelanggan dikongsi dengan pelanggan lain untuk saling melengkapkan data, dan tetapan lalainya ialah penyertaan automatik; pelanggan perlu menutupnya sendiri secara manual untuk menarik diri. Sebaik sahaja berita itu tersebar, pelanggan terus membantah. Ada yang berterus terang bahawa senarai yang dikumpul bertahun-tahun mungkin digunakan untuk menguatkan pesaing mereka. Dalam masa empat hari sahaja, HubSpot beralih daripada mengumumkan kepada menarik balik sepenuhnya, dan pengurusan tertinggi syarikat sendiri tampil mengaku silap secara terbuka.

Teras insiden ini sebenarnya bukan kelemahan teknikal, tetapi “tetapan lalai rasmi”, satu pilihan reka bentuk yang nampak asas. Sama ada data pelanggan dilindungi secara lalai atau dikongsi secara lalai, itulah yang menentukan sama ada sesebuah syarikat layak dipercayai. Kisah ini dan kisah Fable 5 sebenarnya dua sisi kepada perkara yang sama:

Risiko bukan hanya tersembunyi dalam keupayaan model, tetapi juga dalam setiap pilihan lalai yang ditetapkan oleh syarikat untuk pelanggannya.

---

Bagaimana kami melihat perkara ini

Melihat Anthropic berulang kali bergelut, menyesuaikan dan mengesahkan keseimbangan antara keupayaan dan keselamatan, saya terfikir bahawa ini logik yang sama dengan cara OakMega melihat keselamatan maklumat: keupayaan boleh sangat berkuasa, tetapi mekanisme kawalan mesti lebih teliti, dan mampu bertahan apabila diuji secara berterusan.

Bezanya hanya pada cara pengesahan. Anthropic membuat pengelasan risiko dan pembetulan dinamik di peringkat keupayaan model; OakMega pula menetapkan piawaian antarabangsa ke atas diri sendiri di peringkat sistem dan tadbir urus data. Kini OakMega telah lulus pelbagai pensijilan piawaian keselamatan maklumat dan privasi antarabangsa seperti ISO 27001, ISO 27017, ISO 27018 dan CMMC, dan pasukan kami juga memiliki kelayakan profesional Lead Auditor. Bagi kami, pensijilan ini bermakna cara sistem dibina dan dioperasikan telah diperiksa mengikut piawaian yang paling ketat.

Dari segi seni bina teknikal, kami menyokong persekitaran awan utama seperti Microsoft Fabric, GCP dan OpenAI, supaya pelanggan boleh membuat penempatan secara fleksibel mengikut seni bina IT sedia ada; kami juga menggunakan CI/CD, Kubernetes dan teknologi kontena Docker, disokong sistem SLA, sandaran panas (hot standby) dan mekanisme pelaporan insiden, untuk meminimumkan risiko operasi. Dalam soal penggunaan data pula, kami percaya ketelusan dan persetujuan termaklum bukan nilai tambah, tetapi asas: bagaimana data pelanggan digunakan dan siapa yang boleh mengaksesnya, semuanya patut diketahui dengan jelas oleh pelanggan, bukan disembunyikan dalam butiran terma sehingga hanya disedari apabila berlaku masalah.

Dalam hubungan pelanggan yang kami usahakan selama ini, banyak industri berurusan dengan data peribadi yang sangat sensitif setiap hari: privasi ahli, data kewangan, rekod transaksi. Sekali bocor, ia tidak boleh dipulihkan. Bagi pelanggan seperti ini, memilih rakan teknologi tidak boleh hanya melihat betapa berkuasa atau hebatnya alat AI; yang lebih penting ialah sama ada di belakangnya ada keupayaan tadbir urus keselamatan maklumat yang lulus ujian piawaian antarabangsa. Itulah asas sebenar yang membolehkan pelanggan menyerahkan kepercayaan dengan tenang.

AI yang benar-benar boleh dipercayai dibina atas tadbir urus, bukan atas keupayaan semata-mata.

---

Penutup: Keupayaan dan kawalan diri ibarat dua sisi syiling

Kisah Claude Fable 5, daripada ujian, pelancaran, penarikan semula hingga dibuka semula, berlangsung tidak lebih daripada tiga minggu, tetapi ia merangkum isu yang perlu dihadapi oleh setiap syarikat pada zaman ini: kita dahagakan alat yang lebih berkuasa, tetapi alat yang lebih berkuasa pasti datang bersama risiko yang lebih sukar dijangka.

Saya sentiasa percaya, aplikasi AI yang baik bukanlah perlumbaan senjata tentang model siapa lebih hebat, tetapi tentang sama ada kita mampu terus membuat pertimbangan yang bertanggungjawab antara “keupayaan” dan “pengurusan risiko”, serta jujur berdepan saat penilaian kita mungkin silap, dan sanggup berpatah balik untuk membetulkannya. Inilah juga prinsip yang sentiasa OakMega pegang setiap kali kami mereka bentuk aliran automasi untuk setiap pelanggan.

---

FAQ

S1: Kenapa Claude Fable 5 ditarik balik secara mengejut?
Hanya tiga hari selepas dilancarkan, pasukan penyelidik Amazon menerbitkan laporan yang menyatakan mereka menemui cara memintas perlindungan keselamatan Fable 5 sehingga model itu mengenal pasti kelemahan perisian. Oleh sebab perintah kawalan eksport, sedangkan kewarganegaraan pengguna tidak dapat disahkan dengan segera, Anthropic memilih untuk menggantung perkhidmatan bagi semua orang.

S2: Risiko yang disangka unik kepada Fable 5, kenapa kemudiannya disangkal?
Semakan susulan mendapati model yang lebih lemah seperti Opus 4.8 dan GPT-5.5 juga mampu mengenal pasti kelemahan yang sama. Ini membuktikan risiko itu bukan unik kepada Fable 5, tetapi kes sempadan hasil mekanisme perlindungan awal yang agak konservatif. Ia mengingatkan kita bahawa penilaian risiko yang pertama belum tentu jawapan muktamad.

S3: Bagaimana mekanisme pengalihan keselamatan Fable 5 berfungsi? Wajarkah perniagaan mencontohinya?
Apabila sistem mengesan permintaan sensitif, ia mengalihkannya kepada Opus 4.8 yang risikonya lebih terkawal, bukannya menolak terus; pihak Anthropic mengakui kadar salah nilai kira-kira 5%. Ini mengingatkan perniagaan: daripada mengejar penyelesaian sempurna tanpa risiko, lebih baik bina mekanisme dinamik yang boleh terus diperbetulkan.

S4: Bagaimana OakMega melihat isu risiko AI seperti ini?
Pada pandangan kami, semakin hebat keupayaan, semakin kurang perlunya tergesa-gesa membuktikan diri sempurna tanpa cela; yang penting ialah jujur berdepan had dan terus membuat pembetulan. Ini bukan sekadar isu teknikal, tetapi sikap bertanggungjawab terhadap pelanggan. OakMega telah lulus pensijilan antarabangsa seperti ISO 27001, ISO 27017, ISO 27018 dan CMMC, serta memiliki kelayakan Lead Auditor. Namun yang lebih penting daripada pensijilan itu sendiri ialah kepercayaan kami bahawa kepercayaan perlu dibina melalui ketelitian hari demi hari, bukan melalui dakwaan sekali jalan.

Bacaan Lanjut

Pembangunan Tersuai System Integration | OakMega

References

• Pengumuman rasmi Anthropic, Claude Fable 5 and Claude Mythos 5, Jun 2026
• TechCrunch, Cybersecurity researchers aren't happy about the guardrails on Anthropic's Fable, 10 Jun 2026
• Commercial Times (Taiwan), AI paling berkuasa di dunia kembali! Kerajaan AS secara rasmi menarik balik sekatan Claude Fable 5, tempoh terhad 7 hari “tiada caj tambahan untuk pengguna berbayar”, 5 Julai 2026
• MarTech, HubSpot reverses course after customers reject data sharing, Julai 2026

‍