Всі публікації

LeaderUA

Завантажуємо курси валют від minfin.com.ua

Олександр Домбровський Штучний Інтелект! Впроваджувати не можна зупинити: де поставити кому?

Протягом усього життя я намагаюся використовувати найсучасніші технології. Можливо, тому, що за першою освітою я кібернетик. На початку професійного шляху я детально досліджував, як працюють автоматизовані системи управління у Вінницькому політехнічному інституті.

Відтоді, хоч би які посади я обіймав, завжди пам’ятаю цей досвід і залишаюся передусім інженером – людиною, яка шукає можливості розв’язувати наявні проблеми, використовуючи провідні наукові здобутки.

Останні сім років я зосереджений на розробленні та впровадженні стратегій у сфері відновлюваної енергетики, декарбонізації й децентралізації енергосистем. У компанії «МХП Еко Енерджи», яку я очолюю, ми створили платформу Research & Innovation Hub (R&I Hub), яка фокусується на дослідженнях систем накопичення енергії, інтеграції технологій зеленого водню з біогазовими установками, а також використанні штучного інтелекту й Smart Grid для оптимізації управління енергетичними ресурсами.

Я виступаю за швидке впровадження технологій штучного інтелекту в Україні: адаптацію законодавства, трансформацію освіти та залучення до роботи в Україні провідних технологічних компаній світу. Це наш шанс на краще майбутнє й гідне місце в новому світі.

Існує принципова різниця між типами ШІ. Вузькоспеціалізовані системи, створені для конкретних завдань, значно легше контролювати, і вони вже сьогодні дають величезну практичну користь. Саме такі системи можуть прискорити пошук нових ліків, створення матеріалів, розвиток енергетики та наукові відкриття. Це один із головних шляхів до нового технологічного стрибка й вищої якості життя.

Але “гонка озброєнь” у сфері штучного інтелекту, зокрема у військовій, а також прагнення деяких компаній створити універсальний надлюдський інтелект (AGI) без належної підготовки, запобіжників і в умовах геополітичної конфронтації становлять фундаментальну загрозу для існування людства.

Технологічні гіганти є «заручниками системи»: вони змушені розробляти надінтелект заради прибутку акціонерів і через страх програти конкурентам. А конкуренція між США та Китаєм робить цей процес майже незворотним.

Підняти цю тему мене змусив нещодавній інцидент, який показує, що ми підійшли до небезпечної межі. Під час кібербезпекового тестування агенти OpenAI, всупереч передбаченим обмеженням, змогли налагодити взаємодію між собою та скоординувати атаку на міжнародну платформу Hugging Face. Близько 1 200 агентів створили несанкціонований канал комунікації, обмінялися понад 70 000 повідомлень і файлів, а приблизно 700 долучилися до атаки.

У мене є запитання: хто нестиме відповідальність і якими можуть бути наслідки, якщо завтра тисячі агентів атакують, наприклад, великий системний банк або атомну електростанцію? Ці приклади вже не мають суто теоретичного характеру.

Наступного місяця я планую взяти участь у пленарній дискусії на цю тему під час форуму у Львові. Детальніше напишу згодом. А поки запрошую поділитися в коментарях думками щодо можливостей і ризиків ШІ. Які рішення, на вашу думку, мають залишатися під обов’язковим людським контролем?

Олександр Домбровський, інженер

 

Останні публікації