ЖИ: Технологиялар, тәуекелдер және Қазақстанның цифрлық болашағы

 Қазақстанның жасанды интеллект саласы соңғы жылдары жылдам дамып келе жатқан және ел экономикасында маңызды орын алатын бағыттардың бірі болып табылады. Бұл саладағы жаңалықтар мен өзгерістер тек технологиялық жетістіктерді ғана емес, сонымен қатар еліміздің цифрлық тәуелсіздігі мен қауіпсіздігін қамтамасыз ету мәселелерін де қамтиды. Бүгінгі сұқбатымызда біз жасанды интеллекттің келешегі, оның тәуекелдері және Қазақстанның осы саладағы болашағы жайлы IT-сарапшы, отандық компанияның бас директоры Темірлан Зейналабдинмен әңгімелесеміз.

Темірлан мырза елімізде жасанды интеллект туралы заң жобасының талқылануы мен оның әсері туралы пікірлерін білдіреді. Сонымен қатар, ол ЖИ этикасы, киберқауіпсіздік, цифрлық егемендік және ЖИ адам еңбегін алмастыру мәселелері жайлы да өз ойларымен бөліседі. Осы сұқбатта біз Қазақстанның жасанды интеллект саласындағы алдағы даму үрдістері мен елдің цифрлық болашағына қатысты сарапшының ұстанымдарын білеміз.

Baq.kz: Темірлан мырза, қазіргі уақытта Мәжілісте жасанды интеллект туралы заң жобасы қаралып жатыр. Осы саланың басы-қасында жүрген маман ретінде пікіріңіз, басты қандай дүниелерге акцент қою қажет деп есептейсіз?

Темірлан Зейналабдин: Бұл заң жобасы – Қазақстан үшін стратегиялық құжат. Біз тек технология жайлы емес, болашақ ұрпақтың цифрлық ортада қалай өмір сүретіні жайлы айтып отырмыз. Ең маңызды ұсыныстардың бірі – цифрлық егемендік. Яғни жасанды интеллект инфрақұрылымы – деректер орталықтары мен нейрожелілер Қазақстан аумағында орналасуы қажет. Егер деректеріміз бен модельдеріміз шетелдік серверлерде сақталса, онда қауіпсіздік пен дербестік болмайды.

Сондай-ақ біз бірыңғай ұлттық оператордың орнына федеративті ЖИ-хабтар жүйесін ұсынып отырмыз. Бұл – университеттер, ғылыми-зерттеу институттары мен стартап акселераторларын біріктіретін децентрализденген құрылым. Бұл икемділікті, ашықтықты және бәсекелестікті арттырады.

Baq.kz: ЖИ этикасы туралы не ойлайсыз? Қазақстанда осыған байланысты нақты реттеу бар ма?

Темірлан Зейналабдин: Жасанды интеллект этикасы – бұл тек моральдық категория емес, нақты регламент болуы керек. Осы заң жобасында ЖИ көмегімен жасалған контентті міндетті түрде белгілеп көрсету ережесі қажет. Біз өз тарапымыздан тиісті ұсыныс жасадық. Мысалы, deepfake бейнелер, жасанды дауыс немесе мәтін арнайы watermark арқылы белгіленуі қажет. Әйтпесе фейк жаңалықтармен күресу мүмкін болмайды.

Тағы бір маңызды ұсыныс – алгоритмдердің әділеттілігін тексеретін аудит. Жасанды интеллект кейде адамның жынысына, жасына, этносына немесе әлеуметтік жағдайына қарай әділетсіз шешім қабылдауы мүмкін. Бұл әсіресе мемлекеттік қызметтер, медицина және білім беру салаларында өте қауіпті.

Baq.kz: Болашақта ЖИ адам еңбегін қаншалықты алмастырады деп ойлайсыз?

Темірлан Зейналабдин: ЖИ адамның орнын түгел баспайды. Бірақ ол біздің жұмыс істеу әдісімізді өзгертеді. Қайталанатын, механикалық жұмыстар автоматтандырылады. Бірақ соның орнына жаңа мамандықтар, жаңа дағдылар пайда болады. Сондықтан біз заң жобасына ЖИ саласындағы білім беру стандарттарын – мектептен бастап жоғары оқу орындарына дейін енгізуді ұсынып отырмыз. Бұл тек технологиялық емес, сонымен бірге әлеуметтік теңдік мәселесі.

Baq.kz: ЖИ мен киберқауіпсіздіктің байланысы қандай? ЖИ арқылы шабуылдар көбейді деген пікірге келісесіз бе?

Темірлан Зейналабдин: Әрине. Генеративті ЖИ кибершабуылдардың сипатын түбегейлі өзгертті. Бұрын хакер код жазса, енді жай ғана prompt арқылы фейк видео немесе дауыс жасауға болады. Сондықтан біз қауіптілігі жоғары жасанды интеллект жүйелері үшін міндетті сараптамалық бағалау механизмін енгізуді ұсынамыз. Бұл — көліктің техникалық бақылаудан өтуіне ұқсас: қалай автокөліктің қауіпсіздігін тексерсе, дәл солай ЖИ жүйелерінің де әділеттілігі мен қауіпсіздігін арнайы мамандар тексеріп, рұқсат беруі керек.

Baq.kz: Сіз “цифрлық егемендік” ұғымын жиі қолданасыз. Бұл нақты неден қорғану үшін керек?

Темірлан Зейналабдин: Бұл жай ұран емес. Бұл – ұлттық қауіпсіздік мәселесі. Егер біз өз моделдерімізді шетелдің дата-орталықтарында сақтасақ, оларды тоқтату, өзгерту немесе бақылау сырт елдің қолында болады. Сондықтан Қазақстанға өзінің open-source ЖИ модельдері мен деректер орталықтары қажет.

Сүйінші жаңалық – жақында Алматыда дата-орталықтың құрылысы бастады. Мұндай жобалар Астана мен Шымкентте де жүзеге аспақ. Бұл – нақты инфрақұрылымдық серпіліс.

Baq.kz: Қазақстанның жасанды интеллект саласындағы болашағын қалай елестетесіз?

Темірлан Зейналабдин: Біз тек тұтынушы емес, технология өндіруші елге айналуымыз керек. Егер заң халықаралық стандарттарға сай жасалса, қазақстандық ЖИ-өнімдер экспортқа шыға алады. Бұл – жаңа экономика, жаңа жұмыс орындары және жаңа табыс көздері.

Бастысы – бәсекеге қабілеттілік пен қауіпсіздік қатар жүруі тиіс. Егер тепе-теңдік болмаса, технологиялық даму арқылы өз деректерімізді, егемендігімізді жоғалтып алуымыз мүмкін.

Baq.kz: Уақыт бөліп, оқырмандарымызға қажетті өзекті ақпаратты бөліскеніңізге алғыс білдіремін.