Мы рассказываем ИИ то, что не рассказываем никому
Я довольно много пользуюсь нейросетями. В основном сочетаю Claude, Grok и ChatGPT. И недавно в последнем разбирал обычный рабочий вопрос. А получил в ответ, что эта задача, кажется, негативно повлияет на мое состояние и не укладывается в мои личные стратегические цели.
Как это вообще произошло? А вот как: параллельно у меня в той же модели есть личные диалоги. Раньше нейросеть опиралась на контекст внутри одного разговора, а теперь читает все ветки сразу — и отвечает, принимая во внимание все, что я ей когда-либо рассказал.
Когда я впервые столкнулся с этим, я был, мягко говоря, в шоке. Причем не столько от улучшившейся памяти модели, сколько от вмешательства в личную жизнь.
И это, в свою очередь, заставило меня задуматься о более глобальном вопросе: если модель начинает оценивать наши действия и читать морали, сохранится ли стимул быть с ней честным? Ведь самые щепетильные области жизни — психологическую поддержку или здоровье — мы частично аутсорсим нейросетям именно потому, что от машины мы не ждем оценки. Этим она отличается — или отличалась? — от живого специалиста или друга, мнение которого мы ценим и осуждения которого в душе боимся. Сейчас это основание, на котором держалась откровенность, исчезает.
Конечно, в настройках можно запретить модели читать другие диалоги. Но если обрубить все контекстные ветки, она превращается в обычный поиск. А мы же хотим большего: собеседника, который нас действительно понимает и которому не надо раз за разом объяснять кто мы и что нам нужно. Но при этом удобного, неосуждающего.
Я довольно много пользуюсь нейросетями. В основном сочетаю Claude, Grok и ChatGPT. И недавно в последнем разбирал обычный рабочий вопрос. А получил в ответ, что эта задача, кажется, негативно повлияет на мое состояние и не укладывается в мои личные стратегические цели.
Как это вообще произошло? А вот как: параллельно у меня в той же модели есть личные диалоги. Раньше нейросеть опиралась на контекст внутри одного разговора, а теперь читает все ветки сразу — и отвечает, принимая во внимание все, что я ей когда-либо рассказал.
Когда я впервые столкнулся с этим, я был, мягко говоря, в шоке. Причем не столько от улучшившейся памяти модели, сколько от вмешательства в личную жизнь.
И это, в свою очередь, заставило меня задуматься о более глобальном вопросе: если модель начинает оценивать наши действия и читать морали, сохранится ли стимул быть с ней честным? Ведь самые щепетильные области жизни — психологическую поддержку или здоровье — мы частично аутсорсим нейросетям именно потому, что от машины мы не ждем оценки. Этим она отличается — или отличалась? — от живого специалиста или друга, мнение которого мы ценим и осуждения которого в душе боимся. Сейчас это основание, на котором держалась откровенность, исчезает.
Конечно, в настройках можно запретить модели читать другие диалоги. Но если обрубить все контекстные ветки, она превращается в обычный поиск. А мы же хотим большего: собеседника, который нас действительно понимает и которому не надо раз за разом объяснять кто мы и что нам нужно. Но при этом удобного, неосуждающего.