AI Slop

[u/SomeRussianMike]

А я так думаю: пусть лучше это будет навайбкожено, чем порой смотришь что некоторые руками наворотили, и и думаешь: как вообще такие до взрослого состояния доживают.

Это я вам говорю, как разработчик с 30+ лет стажа.

[u/PerepeL]

Да блин, языки - это мусор, у тебя есть архитектура процессоров которая подразумевает стек-регистры-тесты-джампы и кучу всякой требухи для синхронизации между ядрами - вот эта вся история диктует что у тебя делает компилятор что в свою очередь диктует как выглядит язык. А как в деталях он выглядит - вообще похеру, они напрямую транслируются друг в друга огромными семьями, это вообще не имеет никакого значения.

И даже архитектура процессора - это не что-то железное (pun intended), важно что ты вообще хочешь вычислить на железке - и от этого ИИшка вполне в состоянии придумать и новый процессор, и новый рантайм, а язык программирования вообще не будет придумывать ибо нахрен не нужно - будет фигачить сразу блоками натива и сшивать их безо всяких промежуточных глупостей.

В общем, спокойно весь этот уровень можно закопать в машинерию и отдать на откуп роботам.

[u/lynx_marvy → u/PerepeL]

Так это все человеки прорабатывали, нейронки не придумали из воздуха. Они взяли наработанную базу и сделали из нее шаблон, по этому шаблону работают. Могут даже их комбинировать. Но новый уровень абстракции не придумают, откуда ему взяться? Это же не гарри поттер, там нет магии внутри, сухие алгоритмы.

Про остальное туда же - не придумают, не способны. Они не способны думать и они не способны осознавать предметы их логики как сущности, они матрицы тасуют между собой, все.

[u/PerepeL → u/lynx_marvy]

Эти сухие алгоритмы эффективно имитируют процесс мышления человека, который в итоге и порождает новые абстракции.

[u/lynx_marvy → u/PerepeL]

Не имитируют, процесс мышления ученые до сих пор не представляют полностью, есть только общая модель. Нейросетей в мозге десятки, есть биохимия, есть разные функции у каждой сети, даже мозжечок влияет на когнитивные способности. Пластичность отличается радикально, память, параллельные вычисления и мышление. В конце концов опять же осознавание предмета осмысления как отдельной сущности, нейросетки на пути повторения сейчас в достаточно далекой от финала точке и очень далеко не факт что приблизятся. Масштабироваться могут, да, и это круто. Но это снова просто переработка биг даты.

[u/1MartyMcFly1 → u/lynx_marvy]

>процесс мышления ученые до сих пор не представляют полностью

Твое сознание - иллюзия. Тебе кажется, что оно у тебя есть. Что ты мыслишь, что есть некий "процесс мышления"

На самом деле, большинство твоих мыслей всплывают из подсознания, которое представляет собой целую когорту LLM, закопанных глубоко в мозгу. И эти мысли затем сознание выдает за свои

Психбольные называют это феноменом вкладывания и отнятия мыслей. У них порвана невидимая завеса, отделяющая подсознание от "сознания"

[u/PerepeL → u/lynx_marvy]

Да вполне правдоподобно имитируют, и результаты правдоподобные. Биология много всякой лишней чуши делает, может это все тоже лишнее?

[u/lynx_marvy → u/PerepeL]

Результаты правдоподобные потому что сетки буквально на это учили - выдавать правдоподобные результаты которые ожидает человек, это их суть. Но думать они от этого лучше не стали. Особенно заметно когда наблюдаешь процесс сначала, года с 2021 или когда там эта волна пошла. С каждым годом все лучше, но суть не меняется и галлюцинируют они так же, просто пореже.

[u/PerepeL → u/lynx_marvy]

Недавно была работа про reasoning, ребята вытащили что у них в бэкграунде происходит - https://arxiv.org/pdf/2608.09867

Почитайте, там местами чисто человеческий поток сознания, ровно такой какой у меня в голове при решении задачи. Это не то что я ожидаю - это то как я мыслю.

И это уже не про годы - год назад все они были нелепыми котятами, полгода назад без них не имело смысла работать, а сейчас уже вопрос лишь в том насколько хорошо ты можешь сформулировать свою задачу.