Абсолютно любая технология, очевидно, может быть использована как в благих, так и в злонамеренных целях. Компьютер, естественно, не исключение, и современные компьютерные технологии типа искуственного интеллекта и машинного обучения тоже.
Жульё использовало компьютер для того, чтобы эмулировать голос директора. “Директор” потребовал срочного перевода денег “вендору” в Венгрии. Компания потеряла 220 тысяч евро.
Подобные технологии уже демонстрировала Adobe. Или вот, у нас есть https://lyrebird.ai/, делающий всё то же самое. Нужна только запись голоса длиною не менее минуты, а дальше дело техники.
Т.н. “глубокие фейки” давно стали обыденной реальностью — что говорит нам, собственно, о том, что внешность и голос более не являются достаточными подтверждениями аутентичности. Поэтому воленс-ноленс, но, видимо, обществу таки придётся перейти на повсеместное использование, например, цифровых подписей. И хотя это тоже, безусловно, не панацея — сертификаты и пароли для создания подписей тоже можно украсть — но по крайней мере для этого потребуется существенно более высокий уровень компетенции жулья. Это вам не у доверчивых старушек деньги тырить.