Apa saja Inovasi AI Manage Engine?, Chatbot AI hingga Pengembangan LLM
Teknologi artificial intelligence (AI) atau kecerdasan buatan memegang peranan penting dalam pengembangan riset dan pengembangan (RnD) ManageEngine. ManageEngine, Divisi Manajemen TI Perusahaan dari Zoho Corporation menggunakan teknologi AI dalam menciptakan inovasi dan meningkatkan pelayanan untuk produk-produknya.
Ramprakash Ramamoorthy, Director of AI Research at Zoho Corporation mengatakan ManageEngine telah melibatkan dan mengembangkan teknologi AI secara mandiri lebih dari 10 tahun untuk produk-produknya di pasar.
"Semua solusi AI kami dibuat secara internal tetapi kami telah memberikan opsi kepada pelanggan bila ingin menggunakan teknologi GPT milik OpenAI. Jika mereka ingin, sekali lagi, kami adalah perusahaan yang sangat sadar akan privasi. Perusahaan harus membayar AI terbuka, mendapatkan kunci GPT obrolan mereka dan kemudian menaruhnya di sana sehingga konteksnya tidak tercampur dengan pelanggan lain," katanya.
Sebagai perusahaan IT ternama di dunia, ManageEngine mempunyai road map dalam pengembangan AI-nya. Dalam jangka menengah, ManageEngine memiliki serangkaian LLM yang tersedia dalamdan pelanggan dapat mengintegrasikannya mirip dengan pihak ketiga lainnya. Dalam jangka panjang, ManageEngine akan membangun model bahasa besar (LLM) nya secara mandiri sehingga tidak bergantung dengan pihak ketiga.
"Jadi, kami tidak akan memiliki LLM yang melakukan segalanya, tetapi kami akan memiliki LLM yang dapat mengidentifikasi malware dan dapat menganalisa informasi dari faktur serta pesanan pembelian di inventaris meja layanan Anda," ujarnya.
ManageEngine juga mengembangkan Chatbot AI sendiri berbasis GPT yang bertugas di lingkungan internal perusahaan Zoho. Chatbot AI ManageEngine dapat melakukan banyak hal, mulai dari service desk hingga bidang end point yang memungkinkan Anda mengajukan pertanyaan.
"Chatbot kami tidak dibangun dengan model LLM. Ini hanya model yang kecil dan berhasil. Kami juga sedang mengembangkan LLM kami sendiri," ucapnya.
Tantangan Pengembangan AI
Ramprakash mengakui tantangan utama pengembangan AI adalah ketersediaan data, mengingat ManageEngine adalah perusahaan yang mengedepankan privasi. Banyak pengembangan AI terjadi di area di mana Anda terus menambahkan lebih banyak data ke model-model AI ini tetapi algoritmanya setidaknya sudah berumur 10 tahun.
Sebagai contoh, arsitektur transformator, yang menjadi dasar model bahasa besar ini berasal dari tahun 2017 karena memang tidak banyak inovasi yang terjadi di bidang algoritma.
"Jadi, satu hal yang kami kerjakan di mesin pengelola adalah mencoba melihat apakah kami dapat membawa lebih banyak algoritme yang membutuhkan lebih sedikit data untuk melatih atau memberikan tingkat akurasi yang sama," ujarnya.
Tantangan lainnya adalah ketersediaan pasokan komponen GPU AI yang mahal dan langka di pasar yang berdampak kepada kualitas komputasi AI yang rendah.
"Kami akan melakukan banyak penelitian untuk memastikan kami dapat melakukannya secara langsung dalam hal komputasi," ujarnya.
Cerita Sukses
ManageEngine pun memiliki kisah sukses dalam mengimplementasikan AI. Ramprakash menceritakan pemadaman listrik membuat stres setiap orang karena mereka tidak bisa melakukan apapun hingga listriknya menyala. Jika Anda dapat memperkirakan waktu pemadaman berlangsung hingga menyala, maka Anda memiliki indikator awal bahwa pemadaman akan terjadi dan Anda dapat menjalankan simulasi pada infrastruktur TI Anda.
"ManageEngine memiliki solusi AI yang apat menyederhanakan dan membantu Anda memberikan analisis yang baik dan aspek keamanan. Kami berbicara tentang tidak ada identifikasi malware ransomware otentikasi berkelanjutan, ini adalah kasus penggunaan dan semua ini digabungkan pada sudut penyampaian layanan," katanya.
Penggunaan teknologi AI sangat berbeda dengan perangkat lunak tradisional lainnya karena Anda harus memiliki SDM yang terampil dan paham dalam pengembangan AI. Jadi, berinvestasi pada penyedia layanan yang memiliki akses ke semua data sangatlah penting karena AI tidak menyukai data dan silo.
"AI perlu melihat data dari perspektif 360 derajat, untuk memberi Anda wawasan yang lebih baik, satu, dua adalah membawa perubahan organisasi di mana Anda adalah Anda, Anda memiliki, Anda mendidik karyawan Anda untuk memahami bahwa ada pergeseran dari cara deterministik dalam melakukan sesuatu ke cara probabilistik dalam melakukan sesuatu," ujarnya.
Penggunaan teknologi AI juga dapat menganalisa dan mengawasi sistem keamanan dengan akurat untuk mengantisipasi serangan siber yang datang, mengingat kita tidak pernah tahu kapan serangan itu datang. Serangan siber bisa datang dalam jumlah kecil dan sporadis sehingga bisa mengganggu konsentrasi manusia.
"Banyak tim keamanan siber yang lelah memantau terus menerus sistem keamanan. AI dapat memberikan penanganan dengan tepat sesuai tingkat keparahannya," ujarnya.
