Перейти до вмісту

Blog

Безпека вайб-кодингу: ризики й безпечний реліз

Безпека вайб-кодингу: застосунок, створений ШІ, з TODO на місці входу й робочим ключем у коді поряд із виправленою версією за корпоративним єдиним входом

Менеджерка з продукту в п’ятницю описує ШІ-помічникові панель повернень коштів, а в неділю панель уже працює. Команді подобається, тільки вона висить за публічним посиланням на попередній перегляд, без входу й з робочим платіжним ключем у коді.

Ніхто не вимикав у цьому застосунку жодного захисту. Захисту там ніколи й не було, бо ніхто не переглянув результат як ПЗ компанії.

Слопсквотинг: коли ШІ вигадує пакет, який ви ставите

Слопсквотинг: встановлення пакета, який вигадав ШІ-помічник, і його скрипт postinstall одразу запускається, поряд із перевіркою в реєстрі, що показує одну версію й жодного репозиторію

ШІ-помічник відповідає на ваше запитання акуратними змінами й одним новим імпортом. Назва пакета звучить саме так, як мала б звучати справжня бібліотека, тож ви запускаєте запропоновану команду встановлення.

Тепер цей пакет справді існує. Його зареєстрували минулого тижня, коли хтось помітив, що помічники раз у раз пропонують цю назву, і його скрипт встановлення запустився раніше, ніж ви прочитали хоч рядок коду.

Безпека даних у Copilot: чому ШІ-асистенти кажуть зайве

Безпека даних у Copilot: картка відповіді ШІ-асистента, серед джерел якої є надмірно відкритий файл із зарплатами, позначений бурштиновим

Фінансовий аналітик просить Copilot назвати торішній бюджет на відрядження. Відповідь містить правильну суму, а під нею посилання на таблицю із зарплатами всіх працівників.

Ніхто нічого не зламав. Файл кілька років тому відкрили всій компанії, і до того ранку його просто ніхто не шукав.

ШІ в рекрутингу: упередженість, фейкові кандидати й закон

ШІ в рекрутингу: відеоспівбесіда, на якій половина обличчя кандидата розпадається на синтетичну сітку, поруч із ранжованим шорт-листом, де один рядок позначено

Рекрутер проганяє 400 заявок на віддалену вакансію розробника через ШІ-інструмент відбору, а потім призначає три відеоспівбесіди. Найкращий кандидат добре проходить співбесіду, успішно проходить перевірку біографії та просить надіслати ноутбук на нову адресу.

На двох із цих етапів працював ШІ, і обидва можуть дати збій так, що рекрутер цього не помітить. Інструмент відбору міг відсіяти кваліфікованих людей з причин, яких ніхто не обирав, а людина в кадрі може не бути тією, що в документах.

Активності Місяця обізнаності з кібербезпеки: план на 31 день

Календарний план на 31 день з активностями Місяця обізнаності з кібербезпеки, згрупованими в чотири тематичні тижні

Більшість жовтневих кампаній — це плакат, лист на всю компанію і одне 45-хвилинне відео, яке люди проклацують із вимкненим звуком. Далі частка кліків падає на три тижні й повертається до норми.

План нижче має протилежну форму. Одна маленька річ на робочий день, чотири тематичні тижні й нічого, що забирає більше ніж 20 хвилин чийогось часу.