Многие компании, в погоне за выгодой, начали внедрять системы на основе искусственного интеллекта (ИИ), не задумываясь об уязвимостях, которыми могут воспользоваться хакеры. Об этом в эфире Радио РБК заявил эксперт по информационной безопасности, генеральный директор Phishman Алексей Горелкин.
«Дело в том, что очень многие, в погоне за выгодой, начали внедрять системы на основе ИИ, не шибко продумав архитектуру. То есть архитектура остается довольно простая в части решений. Этим и пользуются хакеры», — объяснил он.
По словам Горелкина, часть организаций внедряют искусственный интеллект, не задумываясь о конфиденциальности информации, с которой работает этот инструмент, в результате чего злоумышленники могут получить доступ к закрытым данным. Он отметил, что, если хакерам удастся проникнуть, например, в систему банка и завладеть доступом к используемому ИИ, это может повысить их шансы на кражу средств.
В большей степени хакерские атаки затронут небольшие организации, поскольку крупные банки «грамотно вложились в архитектуру и обезопасили себя», отметил эксперт. «Из-за того, что нейронки начали только недавно массово внедряться в различные бизнес-процессы и организации, конечно, атаки сейчас будут расти кратно. А вот от того, насколько они будут эффективны и будут ли они приносить злоумышленникам деньги, мы поймем, как они будут расти дальше», — заключил Горелкин.
О рисках регулирования ИИ ранее предупреждали и иностранные эксперты. Так, глава OpenAl Сэм Альтман отмечал, что ни одна другая технология не развивалась так быстро, как искусственный интеллект. «Мы должны убедиться, что представляем эту технологию миру ответственно, чтобы у людей было время адаптироваться, внести свой вклад, понять, как это сделать. Представьте, что будет, если мы ошибемся», — предостерег он. Основатель Amazon Джефф Безос, в свою очередь, сравнивал ажиотаж вокруг ИИ с «пузырем», который может привести к потере инвестиций, но и также принесёт пользу обществу.
