Tren AI Teratas yang Harus Diperhatikan pada tahun 2024
Tahun 2023 saja merupakan tahun yang sangat besar bagi AI generatif , dengan GPT-4, GPT-4 , GPT-4V, Google Bard , PaLM 2, dan Google Gemini yang semuanya diluncurkan tahun ini sebagai bagian dari perlombaan senjata yang berlangsung cepat untuk mengotomatisasi hari- alur kerja hari ini. Untuk mendapatkan gambaran tentang apa yang akan terjadi selanjutnya, Techopedia bertanya kepada beberapa CEO terkemuka di bidang teknologi perusahaan untuk mencari tahu bagaimana mereka yakin AI akan berdampak pada organisasi pada tahun 2024 dan tren AI teratas yang mereka lihat akan muncul. Komentar di bawah telah diedit agar singkat dan jelas.
Ada sisi gelap dari booming AI yang tidak disadari oleh banyak konsumen atau bisnis: penjahat dunia maya kini dapat menjadikan serangan phishing mereka lebih kredibel, sering, dan canggih dengan memanfaatkan kekuatan AI generatif , seperti WormGPT . Memasuki tahun 2024, ancaman ini akan semakin besar dan besar. Namun, kunci sandi pada akhirnya akan melampaui kata sandi sebagai teknologi status quo ketika konsekuensi dari tidak mengadopsi bentuk autentikasi yang lebih aman dan tahan terhadap phishing menjadi jelas setelah serangan siber semakin berbahaya dan memakan biaya besar.
Ketika organisasi terus mengadopsi AI dengan cepat pada tahun 2024 untuk mendapatkan semua manfaat efisiensi, produktivitas, dan demokratisasi data, penting untuk memastikan bahwa ketika kekhawatiran teridentifikasi, terdapat mekanisme pelaporan untuk mengungkap kerentanan keamanan tersebut, dengan cara yang sama. akan diidentifikasi dan dilaporkan.
Pada tahun 2024, evolusi AI Generatif (Gen AI) dan Model Bahasa Besar ( LLM ), yang dimulai pada tahun 2023, siap untuk mendefinisikan ulang rantai keamanan siber , meningkatkan efisiensi, dan meminimalkan ketergantungan tenaga kerja dalam keamanan cloud. Salah satu contohnya adalah alat deteksi yang diperkaya oleh LLM. Kita akan melihat LLM mendukung analisis log, memberikan deteksi dini, akurat, dan komprehensif terhadap serangan zero-day yang diketahui dan sulit dipahami . Keahlian analitis LLM akan mengungkap pola dan anomali yang halus dan rumit, memungkinkan identifikasi dan mitigasi ancaman kompleks dan meningkatkan postur keamanan secara keseluruhan. Kita akan melihat GenAI mengintensifkan kecanggihan serangan siber dan mekanisme pertahanan, sehingga memerlukan strategi inovatif dan mendorong terciptanya kerangka keamanan yang tangkas dan responsif.
Konsep 'pengurangan risiko' dalam keamanan data akan berkembang dalam beberapa tahun ke depan, sejalan dengan meningkatnya penggunaan teknologi AI Generatif. Hingga saat ini, organisasi menerapkan kebijakan penyimpanan dan penghapusan data untuk memastikan risiko minimal terhadap aset mereka. Ketika kemampuan GenAI menjadi lebih luas dan berharga bagi organisasi, mereka akan menjadi lebih termotivasi untuk menyimpan data selama mungkin guna menggunakannya untuk pelatihan dan pengujian kemampuan baru ini.
Saat kita menyaksikan tren serupa dalam adopsi teknologi AI, kita perlu mengambil pelajaran dari masa lalu dan secara proaktif mengatasi permasalahan yang ada. Integrasi AI yang pesat ke dalam berbagai aspek operasi bisnis memang bersifat transformatif, namun kurangnya visibilitas komprehensif dan kendali perusahaan menimbulkan tanda bahaya. Sama seperti pada masa-masa awal adopsi cloud, organisasi-organisasi menavigasi wilayah yang belum dipetakan dengan AI, seringkali tanpa adanya perlindungan yang diperlukan. Konsekuensi dari kurangnya kontrol ada dua: pertama, meningkatnya risiko pelanggaran keamanan, dan kedua, potensi terkikisnya kepercayaan karena para pemangku kepentingan mempertanyakan implikasi etika dan transparansi seputar pengambilan keputusan AI.
dua topik yang harus dipikirkan oleh para pemimpin pada tahun 2024. Di satu sisi, para pemimpin CISOS dan TI harus mampu memikirkan bagaimana kita akan menggunakannya dengan aman ke dalam “kerajaan” kode sumber kita sendiri di dalam tuner-naik.
“Di sisi lain, kita harus mampu memikirkan bagaimana vendor Keamanan Aplikasi akan memungkinkan CISOS dan pimpinan TI memanfaatkan AI generatif dalam alat mereka agar dapat menjalankan program mereka dengan lebih efisien dan mendorong produktivitas dalam hal penggunaan AI untuk mempercepat hasil keamanan seperti pembuatan kebijakan keamanan, mengidentifikasi pola dan anomali, menemukan dan memprioritaskan kerentanan lebih cepat, dan membantu proses respons insiden. Selain itu, ketika model-model besar menjadi lebih cepat berubah dan kita mengembangkan cara-cara yang lebih terstruktur untuk mengendalikannya, kita akan mulai melihat lebih banyak jenis antarmuka dan produk baru yang muncul di sekitarnya yang melampaui paradigma standar prompt-to-X atau asisten obrolan. Sebagian besar fokus pembicaraan selama setahun terakhir adalah pada kemampuan jaringan individu yang dilatih secara end-to-end. Namun dalam praktiknya, serangkaian model biasanya mendukung sistem AI yang diterapkan di dunia nyata, dan lebih banyak kerangka kerja akan muncul untuk membangun sistem AI modular.
Jika beberapa saja dari tren AI utama panel ini menjadi kenyataan, kita akan menghadapi masa-masa menarik dalam 12 bulan ke depan dan masa transformatif bagi perusahaan dan individu. Meskipun organisasi masih berupaya mengatasi permasalahan keamanan akibat malware dan upaya phishing yang dihasilkan oleh AI, terdapat banyak peluang bagi karyawan dan pemangku kepentingan untuk mengotomatiskan alur kerja dan mencapai nilai tambah pada tahun 2024.
Penggabungan AI dan LLM akan menyederhanakan operasi dan protokol keamanan, memungkinkan para profesional untuk berkonsentrasi pada analisis dan inovasi strategis serta memastikan deteksi dan penanggulangan ancaman yang kuat, yang akan memperkuat integritas, kerahasiaan, dan ketersediaan informasi di cloud .
