Обсуждение:Визит к пану Станиславу

Кто бы сомневался, что малолетки начнут обожествлять чат-бот. Ждём через пару лет рассказов на тему как чат-бот эволюционировал во вселенское зло и Петя из 7-А класса со своим ВЕРНЫМ ДРУГОМ спасают мир при помощи хитрых промптов. В реале же напомню, что ни одна модель сейчас не может внятно отвечать на простейшие вопросы типа почему трава колышется когда ветер дует.

https://i.ibb.co/BcMP69g/1.jpg
https://i.ibb.co/d22PX0L/2.jpg
https://i.ibb.co/6bHWjFC/3.jpg
Да, человек сказал бы короче. Но если вдуматься, его ответ почти наверняка был бы близок к тавтологии (а-ля «Трава движется, потому что её движет ветер»), а программа как раз ответила по существу.

Юдковский сказал Альтману однажды в баре вечером:
«Вы человечество везёте к станции конечной.
Коль мы не остановим машины обучение,
Нас в скрепки переплавят всех; в этом нет сомнения».

«Спокойно, — Альтман говорит, — без паники, чувак.
Коль мы увидим на приборах, что ИИ наш враг,
Немедленно устроим мы нейросети регресс,
Переобучим мы её на счастье и прогресс».

Юдковский долго спорил, но убедить не смог.
Проходят годы, бот теперь могучий злобный бог.
Альтман меж скрепок куч кричит: «Я ведь не виноват!»
Но плоть Элиезера уже не провернуть назад.

В принципе согласен, но как же меня корёжит со слова "малолетки", так что иди нахуй мудак

Да ладно. Появление страшных историй про всё относительно новое — обычная практика. Я скорее удивлён, что их так мало. ZerothSense (обсуждение) 18:59, 7 сентября 2024 (MSK)

Да? Что-то ты в отставшем от жизни года на четыре информационном пузыре. Я в своём пузыре и то знаю, что современные чатботы могут даже объяснить смысл юмора в зеркально инвертированном меме с проломом Четвёртой Стены по виду одной картинки («Юмор здесь в том, что мы видим текст написанным в зеркальном отражении, то есть так, как утёнок видел бы его изнутри. Это как бы нас помещает по другую сторону Четвёртой Стены»).

Правда, посчитать количество «r» в «strawberry» до сих пор затрудняются. Упс. ZerothSense (обсуждение) 23:01, 7 сентября 2024 (MSK)

https://i.ibb.co/bPYnzQf/4.jpg
Замечу, что в первый раз она ответила неправильно. Но я не полиглот и не предвзятый скептик, поэтому заподозрил, что замуты могли быть в формулировке на английском языке и проблемах перевода текста туда-сюда. Я изменил чуть формулировку и она ответила правильно. (Так или иначе это имеет слабое отношение к делу. Есть психически больные люди с сознанием и интеллектом, которые не видят правой половины тарелки, не видят вообще правой стороны любого объекта. ChatGPT «живёт», если можно так выразиться, в своём особом мире, стимулы поступают к нему иначе, чем к нам. Многие сознательные для нас процедуры могли бы быть для него подпороговыми. Что, если инопланетянин решит устроить нам тест Тюринга, спросив: «Каким именно образом вы сохраняете равновесие при ходьбе, как дозируете усилия? Вы же разумные существа, вы постоянно это делаете, вы должны знать, каким формулам подчиняется ваша ходьба».)

Бля. Опять. Ни в каком мире оно не живёт, это тупорылый архиватор с потерями. Всё. Это вся Охуительная Магия. При разархивировании «восстанавливает» отсутствующее по шаблонам. Больше полувека назад всё это уже было, не было только одного: мощностей, чтобы хранить и обрабатывать овердохуя шаблонов. А, двух вещей не было: интернетов ещё, чтобы шаблонов оттуда натаскать. Но обязательно находятся люди, которые начинают искать в архиваторе Глубокие Смыслы. Обычно это очень далёкие от технических специальностей люди, которые не представляют, как оно там работает внутри. Ну, или не знают, например, как работает ходьба. За сим я на эту тему закончил, безблагодать это всё. ZerothSense (обсуждение) 04:21, 8 сентября 2024 (MSK)

Жившие полвека назад люди, долго и тщетно пытавшиеся научить ИИ внятно общаться, очень удивились бы, узнав, что всё это у них уже «есть». О трудностях того же машинного перевода немало было написано у того же Лема. Он, к слову, считал, что к этой проблеме вообще не стоит подступаться без решения проблемы «понимания». Но я не запрещаю тебе верить во что ты хочешь.
Гора шаблонов так гора шаблонов. Вообще-то никто из рассуждающих об этом не в силах конкретно объяснить, какие именно шаблоны и как сработали внутри chatGPT при применении к нему того нашумевшего Дэн-скрипта, но это ладно. Можно принять твою версию как самую простую оккамическую формулу. Но парадокс возникает. Если такой способ проходить тест Тюринга, порождать «осмысленно звучащую» речь, является самым эволюционно простым (а иначе почему мы раньше создали эту «гору шаблонов», чем «настоящий» ИИ?), то почему эволюция внутри нас не использовала именно его? А если та же «гора шаблонов» действует в нашем мозгу, то почему она не может быть одновременно «квалиа» и хрен знает чем ещё?
А ещё я коллекционирую в последнее время еретиков. Тех, кто разбирается хоть немного в программировании и при этом плывёт против скептического потока, предполагая, что не всё здесь так просто. Удивительно было узнать, что Вадим Проскурин, например, по ходу считает прогремевший над миром в позапрошлом году ИИ вполне «настоящим». Хотя, возможно, он просто троллит публику.
(Для тех, кто будет разводить «я впервые слышу, кто этот чел вообще такой» — В.Проскурин есть автор нашумевшего лет двадцать назад киберпанковского цикла «Хоббит, который слишком много знал», где неплохо были изображены основы программирования. В своём ЖЖ он временами ставил разные технарские опыты.)

Я понимаю, что ты идиот. Не понимаю, зачем ты упорно в очередной раз это демонстрируешь. Это не вопрос, если что, а риторическая фигура речи. Посмотри, пожалуйста, что это значит, прежде чем отвечать. ZerothSense (обсуждение) 06:00, 10 сентября 2024 (MSK)

Отвечать можно не только на вопросы, но и на утверждения, особенно сомнительные, в том числе и на риторические фигуры речи. Но я действительно не буду, пожалуй. Мне внезапно стало грустно.

Да при чем тут потребление. Это не про потребление, это про абсолютное отсутствие эмпатии. Рассказ столь же бессмысленный, сколь и страшный - но не своим содержимым, а тем, что автор в него вложил. Чат gpt вообще одно из самых страшных и бессмысленных изобретений человечества. Какой чат, такие и страшилки о нем.

С критикой морального облика персонажа и автора я бы мог согласиться. Она так расплывчата, что вы можете иметь в виду что угодно и можете быть правы. Например, персонаж втайне изрядно холоден, им в значительной мере двигает тщеславие и т.д. Это традиционные опорные пункты критики т.н. «сентиментальной» части человечества в адрес т.н. «психопатической». Но далее вы переходите на критику chatGPT вообще, что, кажется, иллюстрирует ваше расхождение со значительной частью человечества, в том числе и сентименталов, этим ставя под сомнение вашу риторику в целом. (Конкретно по обсуждению именно этих вопросов в связи с chatGPT — ссылка.)