Gregory's Server
Что делает ChatGPT… и почему он работает?
#chatGPT #NeuralNetwork #AI #StephenWolfram
Это просто добавление одного слова за раз
То, что ChatGPT может автоматически генерировать что-то, что даже поверхностно читается как написанный человеком текст, замечательно и неожиданно. Но как он это делает? И почему это работает?
Моя цель в этой работе — дать грубую схему того, что происходит внутри ChatGPT, а затем исследовать, почему он может так хорошо производить то, что мы можем считать осмысленным текстом.
Я должен сказать с самого начала, что я собираюсь сосредоточиться на общей картине происходящего, и хотя я упомяну некоторые технические детали, я не буду в них глубоко вдаваться. (И суть того, что я скажу, применима так же хорошо к другим текущим «большим языковым моделям» [LLM], как и к ChatGPT.)
Далее по ссылке.