🫖 Про нейросети: от чайника, для чайников, на чайниках

🫖 Про нейросети: от чайника, для чайников, на чайниках

Под прошлым постом развернулась очень интересная дискуссия о нейросетях: стоит ли их бояться? Поэтому решил высказать своё некомпетентное мнение на этот счёт. Нейросеть, или, так называемый «искусственный интеллект» — это всё математические алгоритмы взаимодействия нейронов между собой и слоёв нейронов.

Вопрос: давно ли вы пили чай? Вспомните строение простого электрочайника. Включаешь его, вода нагревается, металлическая пластинка выгибается и нажимает на кнопку. Каждый отдельный нейрон можно сравнить с «тупым» чайником — сам по себе он выполняет ограниченные функции, но в комплексе с другими создаёт сложные системы.

Даже с появлением нейросетей на основе квантовых вычислений, идея не сильно изменится. Да, они будут умнее, быстрее и всё такое. Но стоит выйти за пределы сценариев учебного набора данных, результат может стать непредсказуемым. Это, кстати, уже не раз приводило к печальным последствиям. Например, Tesla, автопилот которой использует только технологии компьютерного зрения (без лидаров), не раз попадала в аварии из-за недообученного ИИ. Недавний случай: ИИ направил машину прямо в перевёрнутый грузовик, не распознав объект. И, судя по базе данных инцидентов, произошедших по вине ИИ, подобных случаев уже более семисот.

Но главная опасность, о которой, на мой взгляд, мы ещё не раз услышим — это люди. На конференции по кибербезопасности «PHDays» уже не раз говорили об этом векторе угроз. Компрометация может произойти на любом этапе. Например, злоумышленник может вмешаться в большой массив данных для обучения, добавив определённые ожидаемые реакции нейросети, скажем, остановку автомобиля по определённому жесту, а потом использовать это... А проверить это практически нереально, мы же жест не знаем. А теперь представьте, что такая «сломанная» нейросеть помогает принимать решения в государственном аппарате или на фронте...

Вывод следующий: как и любая технология, ИИ даёт много возможностей, а как мы их будем использовать, это наш выбор. Пойду сгенерирую картинку к этому посту с помощью искусственного интеллекта)

А вы боитесь их, или приручайте?

🦯 Слепой что ли?