Открытый канал ID 68638822673054

Сообщество инженеров

Сообщество инженеров — площадка для тех, кто развивает производство и управляет промышленными проектами.

Основные темы: металлообработка, энергетика, автоматизация, искусственный интеллект, эффективное управление.

Основной канал (ВК): https://vk.com/promchat

Публикации за период

По реакциям

Поиск и вся лента — после бесплатной регистрации. Свои даты — по подписке; владелец канала видит их бесплатно. Сортировка по реакциям — по подписке. Зарегистрироваться

Загрузка…

Здесь "слабое звено" - так называемые "доверенные ИИ", под которые сейчас активно выделяется финансирование. Если какой-то ИИ называют "доверенным" на официальном уровне, то это будто бы снимает (частично или полностью) обязанность ответственного лица за ним проверять. "Я не при чём! Мне доверенный ИИ так написал, поэтому я так и сделал. Вы же сами сказали, что он - доверенный! А значит это не моя ответственность!" - такой детский лепет, весьма вероятно, станет распространённым явлением, если любой недоучка со смартфоном и ИИ решит, что разменяв мозги на приложение - может решать серьёзные вопросы, купаясь в лучах присвоенной славы.

Доверенный или недоверенный ИИ - это ещё одно звено в процессе, на котором может произойти ошибка. Но за ошибку отвечать всё равно будет человек. Больше просто некому.

Кто-то скажет: "А что если я не могу без ИИ разобраться сам, не хватает знаний?! Как же мне тогда за него отвечать?!" - ответ прост: в этом случае не используй ИИ при принятии решений.

На мой взгляд, правило (особенно для принимающих решения) должно быть простым и строгим: используй какой хочешь ИИ, либо не используй его вообще, но отвечай за результат - лично.

Возможно, что в таких условиях многие предпочтут думать своей головой, а не только в неё есть.
Просмотры: 109
Перейти в пост Открыть в MAX Сообщить о неточности
Ответственность за использование ИИ. Где тонко и может порваться

Недавно мне попался ролик - парень объяснял, что 2% * 5% - это не 10%. Подумал, что это какой-то ролик для школьников младших классов, но увидел, что много комментариев и решил почитать... И был шокирован. Множество взрослых людей комментировали в стиле: "Ошибка! При умножении чисел с одинаковыми знаменателями - знаменатели не перемножаются!", "Вот так нас и разводят!", "Да кому это вообще нужно!". Один из пользователей, который, видимо, ещё помнит программу 5 и 6 класса средней школы, сердито заметил: "Тут половина комментаторов - это обречённые". Я спросил нескольких знакомых с высшим образованием, многие ответили - 10%.

Ранее я уже публиковал, как попросил ИИ доказать мне, что красное - это чёрное. Он выдал мне ряд правдоподобных наукообразных ответов, например: все цвета стремятся в конечном итоге к чёрному, а значит красный - это несовершенный чёрный. Красивый ответ, но чушь.

И вот я задумался - а как те люди, которые не тянут школьную программу 6-го класса, будут проверять то, что им выдаёт ИИ? И что мы получим в итоге?

В современный генеративный ИИ заложена функция выдачи информации в человекоподобном стиле. Так действительно удобно - ответ (набор данных) излагается в простой и привычной форме, будто вы с другом общаетесь. По ситуации ИИ может применять различные шаблоны, заложенные в него на программном уровне: поддержка, сочувствие, похвала и др. Но это программные функции. Суть такого ИИ - найти наиболее подходящие для вашего запроса данные (как поисковик), структурировать их и выдать вам. Не более того. Но наивных людей - просто тьма.

Они верят, что реально с ним общаются. Один собеседник мне сказал, что спросил у ИИ мнение, и ИИ поделился с ним своими личными соображениями. Я спросил: "То есть, ты всерьёз считаешь, что это именно ИИ тебе что-то сказал?". Он ответил: "Конечно, это был не просто набор слов, а осмысленный ответ, он говорил со мной, сказал, что скоро появится модель с сознанием". Я спросил - не считает ли он это маркетинговым ходом разработчиков, которые запрограммировали в свой ИИ такой ответ, чтобы произвести впечатление и привлечь инвестиции. Собеседник ответил мне: "Нет конечно! Они же не будут обманывать своих пользователей и инвесторов!". Ну-ну.

ИИ - это эффективный инструмент для того, кто может обойтись без ИИ. И в той сфере, в которой пользователь способен разобраться самостоятельно, но хочет немного сэкономить время. Во всех остальных случаях - человек не сможет проверить результат и рискует своей собственной головой.

ИИ не отменяет необходимость думать - он ускоряет работу тех, кто уже думать умеет. А тех, кто думать не умеет, - он ещё более ускоренно ведёт к провалу.

Это надо понимать.

Как бы ни было удобно работать с ИИ, он не будет отвечать по финансовым обязательствам пользователя или отбывать за него срок, если пользователь по наивности накосячил, избыточно доверившись машине. А значит - за ИИ надо всё тщательно проверять, и компетентность пользователя не должна быть значительно ниже компетентности ИИ в том вопросе, который пользователь решает этим инструментом. По крайней мере во всех важных вопросах это правило должно быть строгим. Если кто-то считает, что 5% * 2% = 10%, то ему надо сначала заняться своим естественным интеллектом, и не спешить менять свой мозг на приложение в телефоне.

Законодатели сейчас предпринимают попытки установить ответственность за умышленное неправомерное использование ИИ. То есть, человек виноват, если использовал инструмент заведомо со злым умыслом. Такие меры хороши, но недостаточны.

Ведь если человек использует ИИ, но не проверяет результат (некомпетентный или ленивый) - формально злого умысла нет, но последствия могут быть не менее разрушительными.
Просмотры: 105
Перейти в пост Открыть в MAX Сообщить о неточности

Репост из «-68943085152926»

▶ видео
В ваших руках – ракетный щит и космический меч

Поздравляем ученых, конструкторов, гражданских специалистов, военнослужащих и ветеранов Космических войск с праздником!
Вы – наша гордость. Желаем новых высот и надежных орбит.


Минобороны России
Просмотры: 258
Перейти в пост Открыть в MAX Сообщить о неточности
При разумном подходе ИИ будет полезен в определённых специализированных областях человеческой деятельности, где нужно анализировать и систематизировать большие объёмы данных: наука, промышленность, экономика, социология, сфера образования, коммерция, коммуникации (и некоторых других). Здесь уже есть большие объёмы данных и уже существует реальная потребность в их анализе, с чем ИИ справится хорошо и будет полезен, так как здесь он снимает имеющуюся нагрузку с человека, а не создаёт новую. В иных сферах - его применение избыточно и влечёт за собой нарастание накопительной ошибки.

Также ИИ накладывает повышенные требования к компетентности того, кто его использует. Ответственность за результат всё равно будет нести человек. И не удивлюсь, если в дальнейшем ИИ будет разрешён только для тех задач, в которых человек способен разобраться без ИИ - то есть, обладает фундаментальными знаниями по теме. Разбираешься ты в строительстве - можешь использовать строительный ИИ. Социолог - вот тебе социологический ИИ. Юрист - держи юридического. Студент - вот тебе студенческий ИИ по твоей специальности, который будет делать тебя умнее и компетентнее, а не писать вместо тебя курсовые работы. И т.д. При разумном подходе - много хорошего.

Лишь бы только разум не затерялся в потоке хайпа.
Просмотры: 181
Перейти в пост Открыть в MAX Сообщить о неточности
Какова реальная продуктивность человека при использовании ИИ?

На картинках - оценочный результат скорости решения ёмкой интеллектуальной задачи при различных подходах: первые два варианта - без ИИ, вторые два - с ИИ. Но поскольку человек всё равно должен утвердить результат, чтобы нести за него ответственность, - без человека эта работа тоже не обходится.

Как мы видим, итоговый прирост продуктивности - не в десятки и не в сотни раз, а примерно в 2 раза, если результат проверяется тщательно. Это хорошо, но не «сказка».

Понятно, что есть и некоторые другие виды задач, где особой проверки не требуется - там рост продуктивности может достигать до 6 раз. И если здраво подойти к внедрению ИИ в производство, то, навскидку, можно добиться роста производительности в 3-4 раза. Но что с этим потом делать?

С помощью ИИ очень удобно собирать и анализировать информацию. Это хорошо помогает при больших объёмах данных, а также если вы занимаетесь самообразованием и разбираете какую-то тему или вопрос (можно быстро собрать материал, а потом его глубоко изучать, вникать, проверять).

Но тут есть и ловушка - нельзя путать выдачу ИИ (то, что он для вас собрал и удобно «упаковал») с вашими реальными знаниями. Если вы не проделали «проверку на вшивость» тех результатов, которые вам выдал ИИ - не опирайтесь на эти результаты. Если задаёте вопрос, в котором вы вообще ничего не понимаете - не относитесь к результату серьёзнее, чем к «гороскопам» в жёлтой прессе.

Одним из важнейших ключей в работе с ИИ является ваша способность задать ему компетентный и чёткий вопрос - запрос, «промт». Это что-то вроде наброска технического задания в краткой форме. От того, насколько качественно вы понимаете задачу, насколько конкретно формулируете промт, насколько хорошо потом сможете проверить результат и внести правки, - настолько полезен вам будет ИИ. Иначе вас ждёт провал.

Мне очень нравится ИИ. Я считаю, что это очень эффективный и полезный инструмент для некоторых задач. Однако вижу очень много тех, кто либо боится его, как кот пылесоса, либо обожествляет, верит, что наконец-то появилась «волшебная кнопка», которую «нажал - и всё само делается».

ИИ может генерировать очень правдоподобные результаты со скоростью, которая превышает способность человека их проверять и применять. Если поток генерации избыточен, то чтобы проверять ИИ - нужен другой ИИ. Таким образом, широкое распространение ИИ во всех сферах приводит только к увеличению бесполезной нагрузки (ИИ для работы с ИИ, а не потому, что это соответствует цели). Например, сейчас все подряд генерируют с помощью ИИ тексты, картинки, видео и выдают их за реальность (фейки), что приводит к необходимости создавать ИИ, которые вычисляли бы подделки. Всё это требует затрат ресурсов, но не добавляет никакой полезной ценности. Избыточность порождает избыточные издержки там, где не нужно, и приводит к недостатку в других звеньях системы, что сводит на нет всю эффективность. Огромные мощности тратятся на обслуживание побочных продуктов.

Как мы все знаем, в технологическом процессе продуктивность всей системы ограничивается продуктивностью «узкого горлышка» - элемента с наименьшей производительностью. Нет никакого смысла наращивать мощности отдельных узлов, если потом избыток некуда девать. Иногда целесообразно не наращивать, а снижать избыточные мощности отдельных узлов, чтобы добиться эффективности. Или же расширить горлышко (в нашем случае - повышать количество компетентных специалистов, а не наоборот).

В подходах к эффективности применим принцип минимизации избыточности: любой элемент производственной системы оправдан только тогда, когда его вклад в достижение цели превышает связанные с ним издержки. Оценка ведётся по совокупности критериев: качество, сроки, надёжность, риски и др.

Поэтому, чем внедрять ИИ всюду и без разбора, повинуясь моде и хайпу, лучше подумать головой и понять: а где именно нужно внедрять ИИ, как это делать, для чего и в каких объёмах.
Просмотры: 193
Перейти в пост Открыть в MAX Сообщить о неточности
Вся лента — после бесплатной регистрации
ВКонтакте Телеграм Одноклассники
Избранное в datool.ru

Следите за каналом в личном кабинете

Зарегистрируйтесь в datool.ru, чтобы добавить канал «Сообщество инженеров» в избранное и отслеживать его показатели.

Зарегистрироваться
Для владельцев каналов

Подтвердите свой канал

Войдите или зарегистрируйтесь в datool.ru, затем добавьте нашего бота в канал по инструкции в личном кабинете. После проверки владения замок исчезнет и вам станет доступно управление каналом.

Войти или зарегистрироваться

Сообщить о неточности

Опишите, что нужно исправить. Если есть источник, добавьте ссылку.

Вы покидаете datool.ru

Ссылка ведёт на внешний сайт. datool.ru не отвечает за его содержимое — проверьте адрес, прежде чем вводить пароли или платёжные данные.

Переход через 10 с

Перейти