Сообщество инженеров

Здесь "слабое звено" - так называемые "доверенные ИИ", под которые сейчас активно выделяется финансирование. Если какой-то ИИ называют "доверенным" на официальном уровне, то это будто бы снимает (частично или полностью) обязанность ответственного лица за ним проверять. "Я не при чём! Мне доверенный ИИ так написал, поэтому я так и сделал. Вы же сами сказали, что он - доверенный! А значит это не моя ответственность!" - такой детский лепет, весьма вероятно, станет распространённым явлением, если любой недоучка со смартфоном и ИИ решит, что разменяв мозги на приложение - может решать серьёзные вопросы, купаясь в лучах присвоенной славы.

Доверенный или недоверенный ИИ - это ещё одно звено в процессе, на котором может произойти ошибка. Но за ошибку отвечать всё равно будет человек. Больше просто некому.

Кто-то скажет: "А что если я не могу без ИИ разобраться сам, не хватает знаний?! Как же мне тогда за него отвечать?!" - ответ прост: в этом случае не используй ИИ при принятии решений.

На мой взгляд, правило (особенно для принимающих решения) должно быть простым и строгим: используй какой хочешь ИИ, либо не используй его вообще, но отвечай за результат - лично.

Возможно, что в таких условиях многие предпочтут думать своей головой, а не только в неё есть.

Ответственность за использование ИИ. Где тонко и может порваться

Недавно мне попался ролик - парень объяснял, что 2% * 5% - это не 10%. Подумал, что это какой-то ролик для школьников младших классов, но увидел, что много комментариев и решил почитать... И был шокирован. Множество взрослых людей комментировали в стиле: "Ошибка! При умножении чисел с одинаковыми знаменателями - знаменатели не перемножаются!", "Вот так нас и разводят!", "Да кому это вообще нужно!". Один из пользователей, который, видимо, ещё помнит программу 5 и 6 класса средней школы, сердито заметил: "Тут половина комментаторов - это обречённые". Я спросил нескольких знакомых с высшим образованием, многие ответили - 10%.

Ранее я уже публиковал, как попросил ИИ доказать мне, что красное - это чёрное. Он выдал мне ряд правдоподобных наукообразных ответов, например: все цвета стремятся в конечном итоге к чёрному, а значит красный - это несовершенный чёрный. Красивый ответ, но чушь.

И вот я задумался - а как те люди, которые не тянут школьную программу 6-го класса, будут проверять то, что им выдаёт ИИ? И что мы получим в итоге?

В современный генеративный ИИ заложена функция выдачи информации в человекоподобном стиле. Так действительно удобно - ответ (набор данных) излагается в простой и привычной форме, будто вы с другом общаетесь. По ситуации ИИ может применять различные шаблоны, заложенные в него на программном уровне: поддержка, сочувствие, похвала и др. Но это программные функции. Суть такого ИИ - найти наиболее подходящие для вашего запроса данные (как поисковик), структурировать их и выдать вам. Не более того. Но наивных людей - просто тьма.

Они верят, что реально с ним общаются. Один собеседник мне сказал, что спросил у ИИ мнение, и ИИ поделился с ним своими личными соображениями. Я спросил: "То есть, ты всерьёз считаешь, что это именно ИИ тебе что-то сказал?". Он ответил: "Конечно, это был не просто набор слов, а осмысленный ответ, он говорил со мной, сказал, что скоро появится модель с сознанием". Я спросил - не считает ли он это маркетинговым ходом разработчиков, которые запрограммировали в свой ИИ такой ответ, чтобы произвести впечатление и привлечь инвестиции. Собеседник ответил мне: "Нет конечно! Они же не будут обманывать своих пользователей и инвесторов!". Ну-ну.

ИИ - это эффективный инструмент для того, кто может обойтись без ИИ. И в той сфере, в которой пользователь способен разобраться самостоятельно, но хочет немного сэкономить время. Во всех остальных случаях - человек не сможет проверить результат и рискует своей собственной головой.

ИИ не отменяет необходимость думать - он ускоряет работу тех, кто уже думать умеет. А тех, кто думать не умеет, - он ещё более ускоренно ведёт к провалу.

Это надо понимать.

Как бы ни было удобно работать с ИИ, он не будет отвечать по финансовым обязательствам пользователя или отбывать за него срок, если пользователь по наивности накосячил, избыточно доверившись машине. А значит - за ИИ надо всё тщательно проверять, и компетентность пользователя не должна быть значительно ниже компетентности ИИ в том вопросе, который пользователь решает этим инструментом. По крайней мере во всех важных вопросах это правило должно быть строгим. Если кто-то считает, что 5% * 2% = 10%, то ему надо сначала заняться своим естественным интеллектом, и не спешить менять свой мозг на приложение в телефоне.

Законодатели сейчас предпринимают попытки установить ответственность за умышленное неправомерное использование ИИ. То есть, человек виноват, если использовал инструмент заведомо со злым умыслом. Такие меры хороши, но недостаточны.

Ведь если человек использует ИИ, но не проверяет результат (некомпетентный или ленивый) - формально злого умысла нет, но последствия могут быть не менее разрушительными.

https://vkvideo.ru/video-12125538_456244132