Безпечний ШІ: що варто знати перед використанням технологій

Міністерство цифрової трансформації разом з експертами підготувало гайд із використання штучного інтелекту. У ньому зібрані прості поради для безпечної роботи з такими системами.

Різниця між ШІ-асистентом та агентом

Головний фокус гайду — як ШІ стає самостійнішим:

1. ШІ-асистент робить лише те, що ви просите. Ви дали запит — він допоміг із конкретною задачею;
2. ШІ-агент працює автономно. Він може сам отримувати завдання, аналізувати код, знаходити помилки та оптимізувати роботу без ваших постійних підказок.

Як уникнути ризиків?

Що більша автономність нейромережі, то обережнішими треба бути. У рекомендаціях пояснюють, як уникнути «галюцинацій» ШІ (коли він впевнено вигадує факти), не розповсюджувати конфіденційні дані через неправильний запит та захистити систему від зламів. Також дають покроковий алгоритм із 11 етапів — як правильно впровадити ШІ у свої робочі процеси.

5 правил роботи з ШІ:

• контроль завжди за вами. Алгоритм може працювати сам, але відповідальність за фінальний результат несе людина;
• довіряй, але перевіряй. Завжди вичитуйте та аналізуйте те, що згенерувала нейромережа;
• мінімум доступу. Давайте штучному інтелекту лише ті дані, які критично необхідні для конкретної задачі;
• рухайтеся поступово. Делегуйте спочатку найпростіші задачі, а потім ускладнюйте;
• майте кнопку «Стоп». Якщо працюєте з автономними агентами, обов’язково налаштуйте функцію миттєвого блокування, щоб зупинити ШІ, якщо щось піде не так.

Ці підходи вже застосовують на практиці: запустили національного ШІ-асистента на порталі Дія. Він не просто консультує, а допомагає отримувати послуги просто в чаті (скоро він з’явиться і в застосунку!).

Читайте повні рекомендації за покликанням.

Рекомендації розроблено за сприяння проєкту «Цифровізація для зростання, доброчесності та прозорості» (UK DIGIT), що виконується Фондом Євразія та фінансується UK Dev.