August 27, 2017

Простите, хотела перевести, но меня отвлекли. В общем, вольный перевод. В скобочках курсивом мои замечания.

Суть в том, что представления о природе AI (не буду называть это явление искусственным разумом, простите, это далеко от сути понятия) с течением времени кардинально поменялись. Сначала представления о процессе собственно мышления укладывались в символьную логику: есть какое-то представление (приказа, фразы, задачи и т.д.) в виде слов на входе и такое же точно представление результата на выходе, и считалось, что то, что происходит внутри в процессе мышления, – это тоже какое-то символьное преобразование, какие-то логические операции по определенным законам. Пользующиеся теми же самыми кирпичиками построения, то есть словами.

На самом деле это ложное представление, по мнению Хинтона, и ошибкой было бы считать, что то, чем оперируют (нейроны) внутри – это слова. На самом деле это векторы нейронной активности (совокупность функций активации и состояний активации связанных между собой нейронов, как я понимаю), и эти векторы причинно порождают другие векторы, и все это вместе никакого отношения не имеет к символьному представлению мышления в виде операций над словами.

Он говорит, что идея о том, что мысли должны представляться в какой-то форме языка, так же нелепа, как и мысль о том, что понимание пространственного образа (картинки) происходит посредством пикселей. (Тут целая огромная идея о том, как на самом деле анализируются картинки нейронными сетями.)

В общем, сложная мысль, но в целом понятно.