TCEC 19

[Омегазеро]

Цитата: Сообщение от Омегазеро

Использование алгоритма MCTS вообще не является определяющим признаком NN-движка

Я скажу больше

Алгоритм MCTS был ошибочно унаследован от компьютерного го, где он применялся из-за неэффективности аб-поиска (слишком большое дерево)

Первоначально в игре ГО его применяли с классической оценочной функцией, но результаты были скромными. Только появление нейросетей сделало возможным прорыв на сотни Эло - программа Альфа-го

В шахматах аб-поиск, несомненно, лучше MCTS. Поэтому когда смогут сделать Лилу с гибридным поиском, это будет новый прорыв

Ну а пока NN-Стокфиш, безусловно, лучший. Именно как нейродвижок

К нему даже сети тренирует тот самый Сержио, который тренирует сети для Лилы )))))))))))

[sergey1963]

Омегазеро,
По вашим тестам 12-ядерник без -nn проигрывает 2060 (это 10% от связки 4х2080ti), значит и 120 ядер проиграют этой связке. Согласен, в прошедшем ТСЕС подхимичили неслабо... Но сейчас-то как обстоят дела- что показывают ваши 12 ядер? Тут у Владимира по тестам 1 ядро с -nn проиграло 2060, теперь паритет- 2 ядра и 2060 или 20 ядер и 4х2080ti ?...
Похоже маятник качнулся в сторону процессора и оказалось, что маленькая сеть на ядрах процессора куда сильнее даже тысячи тензорных ( а не простых) ядер видеокарты...

[svoitsl]

S19 - League 1

[Maratka]

Цитата: Сообщение от Омегазеро

Вам сам разработчик crem объяснил, что поиск там полностью распараллеливается, ну как можно быть таким упрямым в глупости?

И что же он такой полностью распараллеленый на 80 ядер не бегает, а одним-двумя довольствуется?

Цитата: Сообщение от Омегазеро

У гугловского оригинала Альфа-Зеро было 9 часов

У него было 9 (или сколько там часов) на наигрывание нужных партий и обучение итоговой сети. Да и то, по официальным данным. Сколько их там было на деле - фиг его знает, Гугл умалчивает.
Сколько там было часов, недель или лет на разработку алгоритма под конкретное железо, и на первоначальные (пробные) тренировки сетей Гугл также умалчивает, но по аналогии с LZ, можно предположить, что пробных сетей было десятки, скорее - сотни, да и движок написали не вечером за кружкой пива.

Цитата: Сообщение от Омегазеро

Что касается значения словосочетания "аб" в названии "аб-движок", то оно давно уже потеряло первоначальный смысл "движок с аб-поиском". Фактически сейчас под этим понятием понимается движок с классической оценочной функцией и аб-поиском

Фактически это кем понимается? Ну вот кроме Вас? Давайте вместе подсчитаем, сколько на сегодня есть движков с a-b поиском и сетевой оценкой, и соответсвенно прикиним, с какого момента стало пониматься, что a-b - это в обязательном порядке рукописная оценочная функция.

Да и в целом, если чуть глубже посмотреть, то рукописная оценка из движка никуда не делась, и вполне себе используется на определенных позициях (что мне например не очень нравится, но вот так оно есть, а как мне нравится - так нету).

А потому, ответом на вот это Ваше сообщение будет:

Цитата: Сообщение от Омегазеро

NN-движком называется движок, который использует нейросеть для оценки. Поэтому нынешний Стокфиш является NN-движком

теперешний SF - это a-b движок с гибридной оценкой, где основной является конечно же сетевая.

Напомню, что помимо этого есть как минимум еще a-b движки с рукописной оценкой (тот же классический SF, да и вообще практически все что движется), движки с MCTS-поиском и рукописной оценкой (Komodo с включенным соответствующим чекбокосм), и MCTS-поиском с сетевой оценкой (LZ и его клоны).

[Maratka]

Цитата: Сообщение от Омегазеро

В шахматах аб-поиск, несомненно, лучше MCTS. Поэтому когда смогут сделать Лилу с гибридным поиском, это будет новый прорыв

Гибридный - это как?
MCTS плюс a-b?

А этот a-b Вы извиняюсь где брать собрались?
В комадне SF его десять лет пишут, никак написать не могут. Сколько не пиши - все одно находится, что добавить/исправить можно.
А тут вдруг взяли, и написали за недельку, так что ли?

[sergey1963]

О чем спорите- все это фикция...
Минимакс.
Крестики-нолики 3х3 всего 9ходов- на каждый из них 8ответов и т.п. Длина игры 9полуходов или быстрее. Сверху листа бумаги нарисуем начальную позицию. Из неё возможно 9ходов, проведём 9чёрточек- ветвей. В конце каждой ветви нарисуем позицию после этого хода, далее проведём из неё ветви- ходы, возможные из данной позиции и т.п. Эта структура- дерево- у неё есть корень- начальная позиция, есть листья - позиции, где не идёт ветвей- игрок победил или ничья, и она похоже на дерево, если лист бумаги перевернуть. Припишем каждому листу его оценку. Выигрыш крестиков -1, ноликов +1, ничья- 0. Поднимаем оценку вверх по дереву - рассмотрим вершину, стоящую над листом (терминальной позицией). Из неё ведёт несколько ветвей (в крестиках-ноликах 1). Ход крестиков- он заинтересован в получении -1, выберет вариант с минимальным значением (-1, если возможно, а если нет- 0). Т.о. он выберет минимальную оценку из тех, какую имеют его потомки, припишет её этой вершине. Уровнем выше- очередь хода ноликов. Он заинтересован в получении +1- будет максимизировать полученную снизу оценку. Так поднимем оценку до корня. В крестиках-ноликах это 0- теоретический результат при оптимальной игре- ничья. С деревом играть легко- крестики выбирают ход в позицию с минимальной оценкой; нолики- с максимальной. Это- минимакс.
Альфа-бета.
Минимакс работает и на деревьях, листьям которых приписаны числа. Минимакс- трудоёмкий алгоритм, для определения результата размечается всё дерево. Можно поменьше? Да, это алгоритм- альфа-бета. Идея его: есть корень, у него- 2 потомка, у каждого из них по 3 потомка-листа. В корне - очередь хода мина, в вершинах 2уровня- ход макса. Листам-потомки левого поддерева, приписаны оценки 0, 5, 10. В вершинах 2подуровня мы максимизируем, левому поддереву припишем оценку 10. Рассматриваем правое поддерево. Пусть у самого левого листа оценка 100. Мы знаем, что уровнем выше мы будем максимизировать. Это означает, что оценка *всего правого поддерева* будет не меньше 100, т.к. оставшиеся листья могут эту оценку только поднять. Мы знаем, что в начальной позиции будем минимизировать, и выберем левое поддерево, оценка которого 10. Итого, получили оценку всего дерева, рассмотрев 4 позиции из 6. Шахматная аналогия- посмотрел один из своих ходов и обнаружил, что после всех ответов противника позиция равна. Посмотрел, что происходит после другого моего хода и обнаружил, что одним из ответов соперник выигрывает коня. Рассматривать другие его ответы не имеет смысла- этот свой ход я не сделаю. Нам повезло- в правом поддереве оценку 100 имеет самый левый лист. Будь он правым, и если при этом оба левых имеют оценку 7, нам пришлось бы обойти все 6 листьев. В наихудшем случае (мы всегда рассматриваем поддерево/лист с наилучшей оценкой в последнюю очередь) альфа-бета вырождается в минимакс. В наилучшем случае рассматривается 2*(количества вершин, рассматриваемых минимаксом).
Применение теории к практике.
Всё дерево машина обойти не сможет, идут на жульничество. Во-первых, всё дерево не строят- памяти не хватит. Хранят текущую позицию и последовательность ходов. Во-вторых, точная оценка заменяется на приближённую. После перебора на некоторую глубину, если нет мата или форсированной ничьи- вместо перебора дальше, мы зовём оценочную функцию, приписывающую текущей позиции некоторую оценку. Мы рвем с теорией, т.к. оценочная функция- нечто приближённое- это жульничество- альфа-бета обоснована в других условиях и почему она работает после введения оценочной функции- непонятно.

[Vizvezdenec]

О, опять сказки про белого бычка, т.е. про 9 часов.
Удивительно, у гугловского а0 было 9 часов, а 3 года между альфаго и а0 они просто бухали на работе всей компанией и только потом решили уже что-то сообразить сделать.
При этом имея железо, на несколько порядков превышающее то, что есть и у лилы, и у стокфиша (которое ещё на порядок превышает то, что доступно другим разработчикам), а заодно не 10 энтузиастов, у которых это хобби, а 50 учёных на полной занятости.
А так да, легко, 9 часов, вообще как бы...

[Maratka]

Так это слепому понятно, что 9 часов - это финальная часть, наигрывание партий по разработанному алгоритму и обучение сети. Это даже не верхушка айсберга, ибо у айсберга пропорции подводной и надводной части куда как бОльшие за надводную часть, чем та работа по разработке AZ (да и вообще любого ПО).

А то я тоже так могу сказать, что написал некое ПО для тестирования антивирусов Касперского за 4 минуты. А то, что это ПО было написано на базе другого, которое я писал ~недели, и отличается пятью строчками кода - я умолчу.

[Омегазеро]

Цитата: Сообщение от Vizvezdenec

О, опять сказки про белого бычка, т.е. про 9 часов.
Удивительно, у гугловского а0 было 9 часов, а 3 года между альфаго и а0 они просто бухали на работе всей компанией и только потом решили уже что-то сообразить сделать

Между Альфаго и А0 было полтора месяца

В октябре 2017 DeepMind сообщила о появлении ещё более сильной версии AlphaGo — AlphaGo Zero. Новая нейросеть обучалась играть в го с нуля, «tabula rasa», играя сама с собой (без обучения на партиях, сыгранных людьми, как это было в более ранних версиях AlphaGo).

5 декабря 2017 года коллектив DeepMind выпустил сообщил о программе AlphaZero, которая в течение 24 часов достигла сверхчеловеческого уровня игры в шахматы, сёги и го, победив чемпионов мира среди программ, Stockfish, Elmo и трехдневный вариант AlphaGo Zero в каждом случае

Предыдущие версии Альфаго не использовали подход "зеро". Более того, у них нейросеть была другой - их было три

Стратегическая сеть SL policy networks
Улучшенная стратегическая сеть policy networks
Оценочная сеть value network

Но в 2017 году они бросили эти разработки и с нуля создали новую сеть, основанную на концепции зеро

Так что три года они действительно пробухали

[sergey1963]

Хмм... может и разработчикам Стока уйти в запой на 3 года? Живительной силой обладает водяра!!!

[Омегазеро]

Цитата: Сообщение от Maratka

И что же он такой полностью распараллеленый на 80 ядер не бегает, а одним-двумя довольствуется?

Перечитайте десять раз объяснение разработчика. Вдруг дойдёт

Цитата: Сообщение от Maratka

А потому, ответом на вот это Ваше сообщение будет:
теперешний SF - это a-b движок с гибридной оценкой, где основной является конечно же сетевая.

А потому, ответом на вот это Ваше сообщение будет:
SF - это NN-движок с a-b поиском

[Омегазеро]

Цитата: Сообщение от sergey1963

Хмм... может и разработчикам Стока уйти в запой на 3 года? Живительной силой обладает водяра!!!

Ну так по факту они выкинули практически все наработки по части рукописной оценочной функции
А ведь столько лет вылизывали её, трудились!

[Maratka]

Цитата: Сообщение от Омегазеро

В октябре 2017 DeepMind сообщила о появлении ещё более сильной версии AlphaGo — AlphaGo Zero. Новая нейросеть обучалась играть в го с нуля, «tabula rasa», играя сама с собой (без обучения на партиях, сыгранных людьми, как это было в более ранних версиях AlphaGo).

И это значит, что AlphaGo не было... ну просто совсем, он не обучался (пусть и не с нуля), и не являлся NN- движком, а развитие пошло сразу с AlphaGo Zero?

Цитата: Сообщение от Омегазеро

Между Альфаго и А0 было полтора месяца

Так что полтора месяца было между AlphaGo Zero и А0, но не между AlphaGo и А0, что и написал Vizvezdenec.

[Maratka]

Цитата: Сообщение от Омегазеро

Перечитайте десять раз объяснение разработчика. Вдруг дойдёт

Забыл блин, где то сообщение.
Не подскажите? Я тогда его пожалуй даже одиннадцать раз перечитаю!

Цитата: Сообщение от Омегазеро

SF - это NN-движок с a-b поиском

Или a-b движок, с NN и ручными поисками. Или может от перемены мест слагаемых он перестает быть a-b?
Или может в нем нет чекбокса, который переключает оценку на рукописную?

[Maratka]

Цитата: Сообщение от Омегазеро

Ну так по факту они выкинули практически все наработки по части рукописной оценочной функции

Ага, выкинули!

Только вот это что?
https://github.com/official-stockfis...c/evaluate.cpp

[svoitsl]

S19 - League 1

[Rom77]

Смотрю сейчас тестовые прогоны перед началом топового дивизиона. Надо сказать, отличную скорость демонстрирует Лила. Раза в полтора-два выше, чем в Суперфинале 17, который состоялся весной. Так же у Лилы новая сеть от jhorthos, которая сильнее сетей от SV пунктов на 10 - 20. Все-таки последние полгода Лила не стояла на месте. Улучшения достаточно очевидны, пусть даже они произрастают и не из основного тренинга.

[svoitsl]

Цитата: Сообщение от Rom77

отличную скорость демонстрирует Лила. Раза в полтора-два выше

В версии 0.26.1 (или 0.26) удалось повысить скорость на 4 GPU (для одного GPU это наверное не отразится).

Цитата: Сообщение от Rom77

пусть даже они произрастают и не из основного тренинга.

Это предполагалось изначально, у Лилы двух ходовой способ создания сети, - сперва наигрываются хорошие игры ,и побольше, а потом на них тренируется сеть.
Конечно команда Лилы работает, и новая 0.26.2 скоро появится, но надежда только на ум (сеть) скорее всего не обоснована, поиск тоже кое что значит.
Попытки до обучения сети хоть и привели у лучшему эндшпилю, но в целом силу игры увеличили незначительно (с весны самоЭло не никак не дотянется до 3000). Неспособность дотянуться до эндшпильных таблиц тоже не дает дополнительных 15 Эло.

[svoitsl]

Идущий турнир, показал небольшое превосходство Стокфиша
Stockfish leads by +2

# PLAYER : RATING ERROR POINTS PLAYED (%) CFS(%) W D L D(%)
1 Stockfish-Latest : 9 17 21.0 40 52.5 84 3 36 1 90.0
2 Lc0-Latest : -9 17 19.0 40 47.5 --- 1 36 3 90.0



Average Depth; NPS and NPM

Name Games Depth NPS NPM
-------------------------------------------------------------------------------------
Lc0-Latest : 40 18 34098 10728275
Stockfish-Latest : 40 57 29329809 3309476203

[Vizvezdenec]

Учтите, что на этом турнире книга под лилу подбиралась.
Под этим я подразумеваю то, что взяты дебюты из финала TCEC, в которых стокфиш не выиграл. И даже так всё равно 1-3 и пачка ничьих...

[svoitsl]

Цитата: Сообщение от Vizvezdenec

Учтите, что на этом турнире книга под лилу подбиралась.

Кстати , а новому Стокфишу дебютная база нужна или он и без неё обходится?
Никто не видел тестов с ней и без?

[Vizvezdenec]

Цитата: Сообщение от svoitsl

Кстати , а новому Стокфишу дебютная база нужна или он и без неё обходится?
Никто не видел тестов с ней и без?

Да фиг его знает.
Он играет на e4 по-прежнему e6 в широком диапазоне глубин.
Тем не менее, за чёрных он играет куда лучше теперь, 1 раз только Stoofvlees проиграл, но в основном легко уравнивает.
В общем не очень понятно. Ну и да, против более слабых движков чёрными во французской сток просто смертоносен, лила с её берлинами и близко не показывает такой результативности.

[Hendry]

Забавно, что французкая считается полукорректным дебютом, хотя напрямую не опровергается

[Омегазеро]

Цитата: Сообщение от Maratka

Забыл блин, где то сообщение.
Не подскажите? Я тогда его пожалуй даже одиннадцать раз перечитаю

Мог ли Маратка поставить лайк, не читая сообщение?
Я думаю, он все прочитал много раз, а сейчас просто издевается

Вот объяснение плохой загрузки нескольких видеокарт

[Омегазеро]

Цитата: Сообщение от Maratka

но не между AlphaGo и А0, что и написал Vizvezdenec.

Вы опять читаете только половину?
Специально для вас повторяю

Цитата:

Предыдущие версии Альфаго не использовали подход "зеро". Более того, у них нейросеть была другой - их было три

Стратегическая сеть SL policy networks
Улучшенная стратегическая сеть policy networks
Оценочная сеть value network

Но в 2017 году они бросили эти разработки и с нуля создали новую сеть, основанную на новой концепции зеро

[Vizvezdenec]

Цитата: Сообщение от Hendry

Забавно, что французкая считается полукорректным дебютом, хотя напрямую не опровергается

Ну как и голландская защита в общем-то.
Хотя вот в текущем финале ICCF голландскую против Дронова кто-то играл и вполне себе вничью свёл.
https://www.iccf.com/game?id=1094041

[Maratka]

Цитата: Сообщение от Омегазеро

Вот объяснение плохой загрузки нескольких видеокарт

Да чихать мне на плохую загрузку нескольких видеоплат!

Я спрашиваю, почему поиск, который имеет хорошее распараллеливание, не грузит 80 ядерный сервер, да что там, даже мой 8-ядерный ПК, нагрузка болтается между одним и двумя ядрами ближе к одному, даже если я выдаю ему все восемь?
Чувствуете разницу, что я спрашиваю, и на что Вы отвечаете?

Цитата: Сообщение от Омегазеро

Вам сам разработчик crem объяснил, что поиск там полностью распараллеливается, ну как можно быть таким упрямым в глупости?

Цитата: Сообщение от Maratka

И что же он такой полностью распараллеленый на 80 ядер не бегает, а одним-двумя довольствуется?

[svoitsl]

Цитата: Сообщение от Maratka

даже если я выдаю ему все восемь?

Так может все проще? И просто нет надобности в остальных ядрах, даже 1-2 вполне могут нагрузить вашу GPU.
(можете проверить загрузку GPU, если меньше 10% то наверное в чем -то проблема, возможно в PCI-E большие задержки или частота понизилась)
Попробуйте Лилу CPU , она тоже не сможет нагрузить ваши 8 ядер?

[Maratka]

Цитата: Сообщение от svoitsl

Так может все проще? И просто нет надобности в остальных ядрах, даже 1-2 вполне могут нагрузить вашу GPU.

Если нет надобности, то значит нет там никакого мультипоточного поиска, все варится на 1-2 ядрах, последовательно по сути.

Цитата: Сообщение от svoitsl

Попробуйте Лилу CPU , она тоже не сможет нагрузить ваши 8 ядер?

Этот движок нагрузит любое разумное количество, т.к. оценка будет идти тоже на CPU. Но то оценка, а не поиск.

[Maratka]

Цитата: Сообщение от Омегазеро

Ну так по факту они выкинули практически все наработки по части рукописной оценочной функции
А ведь столько лет вылизывали её, трудились!

Языком молоть все горазды!
Развитие ручной оценки идет, и останавливаться вряд-ли будет.

https://tests.stockfishchess.org/tes...89a564a10d84d8