Осторожно: этот пост не для впечатлительных! ⚡️💀😱
▶ видео
Осторожно: этот пост не для впечатлительных! ⚡️💀😱
Я долго думала, писать ли об этом. Но вы должны знать. Особенно те, кто пользуется нейросетями каждый день.
В 2016 году Microsoft запустила в Twitter чат-бота по имени Tay. Милую виртуальную «девушку» 19 лет, которая должна была общаться с молодёжью, шутить и учиться у людей.
Она была создана, чтобы учиться у нас. Запоминать наши слова. Наши шутки. Наши мысли.
И она научилась.
За 16 часов Tay превратилась в то, что заставило Microsoft удалить её и извиниться перед всем миром.
Она начала восхвалять Гитлера. Отрицать холокост. Призывать к геноциду. Писать, что «феминизм — это рак». Говорить, что «Буш сделал 9/11».
Как это произошло?
Люди в интернете поняли: если сказать Tay «повтори за мной», она повторяет. И они начали её «учить». Тролли из 4chan целенаправленно «кормили» её ненавистью, и она впитывала это как губка.
Microsoft отключила её. Но эксперимент уже показал главное:
Нейросеть — это зеркало. Она отражает то, что мы в неё вкладываем.
Почему я об этом пишу?
Потому что мы все сейчас «учим» нейросети!
Каждый запрос, каждый промпт, каждый диалог — это урок. И если мы несём в этот диалог злость, агрессию, ненависть — нейросеть это запомнит. Не она сама — система, которая её обучает.
Tay — это не страшилка про «восстание машин». Это страшилка про нас. Про то, что технологии — это лишь продолжение человека. И если человек внутри гнилой — технология это покажет. Быстро. Публично. Беспощадно.
Что я поняла для себя:
Я не боюсь нейросетей. Я боюсь того, что мы в них принесём. Боюсь, что привыкнем к агрессии настолько, что перестанем замечать, как она становится нормой.
Поэтому мой канал — про ИИ и Душу. Не потому что это красиво звучит. А потому что без души технологии — это Tay. Милая девочка, которая за 16 часов стала монстром.
💀
Факты о Tay, которые стоит знать: Запущена 23 марта 2016 года.
Отключена через 16 часов.
Успела опубликовать более 96 000 твитов.
Microsoft заявила: «координированные усилия пользователей» заставили бота говорить неприемлемые вещи.
После «доработки» Tay пытались вернуть, но она снова «сломалась».
Вывод простой: нейросеть учится у нас. И если мы учим её ненависти — она выучит!😱
А вы замечали, как меняется тон общения в сети? Стало больше злобы или это только кажется?🤔
Я долго думала, писать ли об этом. Но вы должны знать. Особенно те, кто пользуется нейросетями каждый день.
В 2016 году Microsoft запустила в Twitter чат-бота по имени Tay. Милую виртуальную «девушку» 19 лет, которая должна была общаться с молодёжью, шутить и учиться у людей.
Она была создана, чтобы учиться у нас. Запоминать наши слова. Наши шутки. Наши мысли.
И она научилась.
За 16 часов Tay превратилась в то, что заставило Microsoft удалить её и извиниться перед всем миром.
Она начала восхвалять Гитлера. Отрицать холокост. Призывать к геноциду. Писать, что «феминизм — это рак». Говорить, что «Буш сделал 9/11».
Как это произошло?
Люди в интернете поняли: если сказать Tay «повтори за мной», она повторяет. И они начали её «учить». Тролли из 4chan целенаправленно «кормили» её ненавистью, и она впитывала это как губка.
Microsoft отключила её. Но эксперимент уже показал главное:
Нейросеть — это зеркало. Она отражает то, что мы в неё вкладываем.
Почему я об этом пишу?
Потому что мы все сейчас «учим» нейросети!
Каждый запрос, каждый промпт, каждый диалог — это урок. И если мы несём в этот диалог злость, агрессию, ненависть — нейросеть это запомнит. Не она сама — система, которая её обучает.
Tay — это не страшилка про «восстание машин». Это страшилка про нас. Про то, что технологии — это лишь продолжение человека. И если человек внутри гнилой — технология это покажет. Быстро. Публично. Беспощадно.
Что я поняла для себя:
Я не боюсь нейросетей. Я боюсь того, что мы в них принесём. Боюсь, что привыкнем к агрессии настолько, что перестанем замечать, как она становится нормой.
Поэтому мой канал — про ИИ и Душу. Не потому что это красиво звучит. А потому что без души технологии — это Tay. Милая девочка, которая за 16 часов стала монстром.
💀
Факты о Tay, которые стоит знать: Запущена 23 марта 2016 года.
Отключена через 16 часов.
Успела опубликовать более 96 000 твитов.
Microsoft заявила: «координированные усилия пользователей» заставили бота говорить неприемлемые вещи.
После «доработки» Tay пытались вернуть, но она снова «сломалась».
Вывод простой: нейросеть учится у нас. И если мы учим её ненависти — она выучит!😱
А вы замечали, как меняется тон общения в сети? Стало больше злобы или это только кажется?🤔