ChatGPT помнит меня. И это пугает
Недавно поймал себя на одном нехорошем ощущении.
ChatGPT теперь помнит не только содержание текущего чата. Он помнит мою машину, разговоры с врачами, проекты, над которыми я работаю, статьи, которые писал. Иногда достаточно намекнуть: «мы это уже обсуждали», — и он действительно продолжает разговор с того места, где мы остановились.
И вот тут становится не по себе.
ИИ знает обо мне уже очень много. Слишком много!
Где же приватность, конфиденциальность?
Не разговаривать с ним на эти темы? Шифроваться? Как вариант да. Но и комфортность общения пропадает, разговоры с оглядкой, конспирация…
А что будет через несколько лет? Не окажется ли так, что он будет помнить обо мне больше, чем я сам?
И сразу вспоминаются посты ИИ-энтузиастов, которые строят сложные системы из агентов, моделей, циклов, внешней памяти… А потом неожиданно начинают говорить о создании собственной цифровой копии.
Еще недавно это звучало как фантастика.
Но ведь подобные идеи появляются уже не впервые.
Когда вышел iPod, многие сравнивали плейлисты известных людей и пытались по ним делать выводы об их характере и привычках.
Потом журналисты называли iPhone «вторым Я», потому что в нем оказалась значительная часть жизни человека.
Однажды мой знакомый попросил помочь с компьютером. Больше всего он переживал за жесткий диск. Там были фотографии, музыка, письма — часть его жизни. Потерять диск означало потерять часть самого себя. И что останется без этой части?
Тогда мне пришла на ум еще одна ассоциация. Космонавты перед стартом идут к ракете, а в руках у каждого небольшой чемоданчик, соединенный со скафандром. В нем находится система жизнеобеспечения.
Похоже, человечество постепенно носит такой «чемоданчик» уже много лет. Сначала фотографии и документы. Потом смартфон. Теперь — ИИ, который начинает помнить не только наши файлы, но и наши мысли, проекты, привычки и историю общения.
Возможно, это просто очередной этап развития технологий.
А возможно — начало совсем другой эпохи, в которой цифровая память станет продолжением человеческой личности.
В общем, ассоциаций много, а вопрос один - неужели мы действительно движемся в эту сторону?