KT NPU LLM Station Resmi Meluncur, Solusi AI Lokal Korea Selatan Bebas Regulasi

Korea Telecom resmi meluncurkan KT NPU LLM Station sebagai perangkat AI enterprise komersial pertama di pasar domestik. Berdasarkan pengamatan Kabayan News, inovasi ini memadukan chip inferensi buatan Korea Selatan dengan model bahasa besar atau Large Language Model lokal dalam satu server on-premises tunggal.

Perangkat canggih ini dirancang khusus untuk menyasar industri teregulasi di Korea Selatan yang selama ini terkunci dari layanan AI generatif berbasis cloud. teknologi" class="internal-link">Mengutip laporan dari industri teknologi, hambatan utama tersebut bersumber dari aturan pemisahan jaringan atau mangjuri yang mewajibkan lembaga pemerintah, perbankan, hingga pertahanan melakukan air-gap jaringan internal dari internet publik.

Dari sisi perangkat keras, KT NPU LLM Station mengandalkan chip ATOM-MAX buatan Rebellions yang dioptimalkan untuk beban kerja inferensi. Sebagaimana dilaporkan dalam spesifikasi teknisnya, satu kartu ATOM-MAX mengintegrasikan empat dies NPU dan pengontrol PCIe Gen5 untuk menghasilkan performa tinggi dengan efisiensi daya optimal.

Sementara itu, pada lapisan perangkat lunak, perangkat ini ditenagai oleh model penalaran enterprise Mi:dm K 2.5 Pro berkapasitas 32 miliar parameter buatan Korea Telecom. Model ini dirancang untuk mendukung analisis dokumen kompleks serta alur kerja agen cerdas dengan jendela konteks mencapai 128.000 token.

Kemitraan strategis antara Korea Telecom dan Rebellions sendiri telah terjalin sejak lama melalui suntikan dana investasi seri B. Analisis lebih lanjut menunjukkan bahwa langkah integrasi vertikal dari tingkat silikon hingga perangkat jadi ini memperkuat posisi industri teknologi domestik dalam menghadapi persaingan kecerdasan buatan global.