LCZero

[Омегазеро]

Цитата: Сообщение от Maratka

IMHO, вполне себе нормальный вариант.

Я думаю, вы знаете результаты

при тесте на mobile i7-7700HQ и GTX 1050TI - тут Стокфиш уже повержен
Lc0 32700 - Stockfish10 8-6-35

При тесте i7-8700K и GTX 1070Ti - тут у Стокфиша выиграла старая сеть, но и новая очень близка к победе
Lc0 32711 - Stockfish10 13-15-72
Lc0 32395 - Stockfish10 16-12-72

При этом на RTX 2080 и TR 1950 Лиле до уровня Стокфиша еще очень далеко даже с самыми новыми сетками
Stockfish 10 : 0
lc0. 32585 : -61
lc0. 32742 : -64
lc0. 32425 : -80

А ведь еще есть итоги CCCC, по которым разрыв всего 38 со старой сеткой 32425 (которой якобы 80 эло не хватает)
2 x Intel Xeon Platinum 8168 (90 threads with HT) против 4x RTX 2080ti
Stockfish : 3500.0
Lc0 32425 : 3462.8
И это несмотря на то, что там явный перекос в сторону CPU (по цене в три раза, хотя мощности близки)

[sovaz1997]

Омегазеро, разные результаты из-за того, что очень мало партий. Если везде сыграть по 1000 партий, то и результаты будут немного ближе и точнее.

[Maratka]

Цитата: Сообщение от Омегазеро

2 x Intel Xeon Platinum 8168 (90 threads with HT) против 4x RTX 2080ti

Я уже неоднократно об этом писал: хотите использовать многоядерные системы на многосокетных Xeon? Не вопрос, но тогда в пару к этим процесорам берите Tesla, а не GeForce, дабы не создавать видимости того, что у SF очень дорогое железо.

[Омегазеро]

Цитата: Сообщение от sovaz1997

Омегазеро, разные результаты из-за того, что очень мало партий. Если везде сыграть по 1000 партий, то и результаты будут немного ближе и точнее.

Верно, там в трех случаях 100 партий и в одном случае 1200. Но разброс все-таки выходит за пределы погрешности

Вам не кажется, что зависимость Эло для AB и NN движков от мощности CPU и GPU - разная?

[Maratka]

Цитата: Сообщение от sovaz1997

Омегазеро, разные результаты из-за того, что очень мало партий. Если везде сыграть по 1000 партий, то и результаты будут немного ближе и точнее.

Отчасти да, но как Вы буквально пару дней назад видели на базе позиции, которую сами же и привели, SF в 40 потоков и SF в 8-12 потоков - это два разных SF:
дополнительные ядра дают ему возможность стратегического мышления, не сильно озадачивая его необходимостью резать чуть ли не все ветки подряд, тогда как увеличение мощности для LZ - это просто возможность просчитать на бОльшую глубины (для SF это аналог использования того же процессора, но не на 4, а на (условно) 5 Ghz). При этом сильно увеличивать мощность GPU мы не можем: он в этом случае успеет просчитать все, либо как минимум бОльшую часть узлов, имеющих отношение к данной позиции, тогда как SF по сути своей не лимитирован ничем, кроме стоимости железа.

[Maratka]

Цитата: Сообщение от Омегазеро

Вам не кажется, что зависимость Эло для AB и NN движков от мощности CPU и GPU - разная?

Разумеется разная, для ИИ-движков а-ля LZ это заложено в сам принцип сети конечной размерности.

[sovaz1997]

Maratka, сколько бы ядер SF не дать, он все равно будет очень много чего упускать. Если бы не это - Лила бы никогда не достигла уровня SF. Ну, дадим мы Stockfish-у 40 ядер, что усилить его на 150 пунктов, что это даст? В итоге через некоторое время новая сеть Лилы будет уже бить этот SF на 40 ядрах с помощью слабого GPU.

[sovaz1997]

Цитата: Сообщение от Maratka

Разумеется разная, для ИИ-движков а-ля LZ это заложено в сам принцип сети конечной размерности.

Сеть и поиск - разные вещи. Пределы поиска зависит от размера ОЗУ

[Maratka]

Цитата: Сообщение от sovaz1997

Сеть и поиск - разные вещи. Пределы поиска зависит от размера ОЗУ

С чего бы? :D
Файл подкачки придумали не вчера.

[Maratka]

Цитата: Сообщение от sovaz1997

Ну, дадим мы Stockfish-у 40 ядер, что усилить его на 150 пунктов, что это даст? В итоге через некоторое время новая сеть Лилы будет уже бить этот SF на 40 ядрах с помощью слабого GPU.

К тому времени SF прокачается еще на сотню.
Напомню, что за последние полгода прирост у LZ составил всего-то несколько десятков ELO.

[sovaz1997]

Maratka, файл подкачки затормозит поиск так, что это никому не нужно будет)
А по поводу прироста - это мы через 11 месяцев поговорим, я уже ранее об этом упоминал

[Омегазеро]

Цитата: Сообщение от Maratka

К тому времени SF прокачается еще на сотню.
Напомню, что за последние полгода прирост у LZ составил всего-то несколько десятков ELO.

За полгода они дважды перезапускали обучение с нуля

На самом деле у них за месяц рост на несколько десятков Эло (сеть 32194 выпущена 24 декабря)

В принципе некоторые предполагают, что теперь Эло перестало расти, однако месяц назад предполагали то же самое

[Maratka]

Цитата: Сообщение от sovaz1997

Maratka, файл подкачки затормозит поиск так, что это никому не нужно будет)

Сомневаюсь. Зависит от куда подкачивать. Та же технология Intel Optane находится буквально в состоянии зародыша (если сравнить ее с флешем или магнитными дисками), но даже сейчас способна дать в разы больше операций со случайным доступом, в сравнении с лучшими моделями на NAND-Flash, а с HDD OPtane даже и сравнивать неприлично.

[Maratka]

Цитата: Сообщение от Омегазеро

За полгода они дважды перезапускали обучение с нуля
На самом деле у них за месяц рост на несколько десятков Эло (сеть 32194 выпущена 24 декабря)

То проблемы индейцев.
С практической точки зрения LZ получил ~50 ELO за полгода, SF - где-то столько же.

[Омегазеро]

Цитата: Сообщение от sovaz1997

А по поводу прироста - это мы через 11 месяцев поговорим, я уже ранее об этом упоминал

Тут просто разные тесты дают разные результаты
По одним данным, с 32585 до 32742 уже был рост на 30 Эло (игра сеток между собой)
По другим данным - никакого роста не было (игра со Стоком)
И кому верить после этого?

[Омегазеро]

Цитата: Сообщение от Maratka

То проблемы индейцев

Ну да, сейчас забросят 3-ю ветку, потом 4-ю, потом 5-ю...

Не совсем понятно, зачем они это делают. Их 30 Эло в месяц не устраивает? Хотят повторить Альфу-зеро, которая обучилась на 44 млн играх? Так там были TPU и сильная команда программистов

[Maratka]

Цитата: Сообщение от sovaz1997

А по поводу прироста - это мы через 11 месяцев поговорим, я уже ранее об этом упоминал

Поговорим, чего бы не поговорить. Главное, чтобы к тому времени на том же TCEC появился 128 ядерный Epic. Ну или еще где (мне лично без особой разницы, на каком ресурсе будут устроены матчи).

[sovaz1997]

Со Стоком более точные тесты (по числу партий) + Мои тесты не показали прироста. Так что, может его и не было)

[Maratka]

Цитата: Сообщение от Омегазеро

И кому верить после этого?

Верить тестам со SF.
Он что называется "by design" одинаково хорошо играет практически любой дебют, тогда как LZ мог отшлифовать (условно) французскую партию, провалившись во всех остальных (особенности самообучения: новая сеть по сути своей ищет ошибки в старой, и использует их, т.е. учится играть вполне определенные дебюты, и даже не пытается играть остальные).

[sovaz1997]

Цитата: Сообщение от Maratka

Поговорим, чего бы не поговорить. Главное, чтобы к тому времени на том же TCEC появился 128 ядерный Epic. Ну или еще где (мне лично без особой разницы, на каком ресурсе будут устроены матчи).

Обновить процессор, конечно, надо. Для более эффектной победы Лилы. При этом, если сейчас завезти подобный процессор в TCEC, Stockfish продлит свое 1-е место месяцев на 6 ещё

[Омегазеро]

Цитата: Сообщение от sovaz1997

Со Стоком более точные тесты (по числу партий) + Мои тесты не показали прироста. Так что, может его и не было)

Вы считаете, обучение выдохлось?
А как вам проект Антифиш?

[sovaz1997]

Цитата: Сообщение от Омегазеро

Вы считаете, обучение выдохлось?
А как вам проект Антифиш?

Не, я как раз так не считаю. Если только для test30. А так, потенциал проекта огромен и я предсказываю обход Stockfish на 50-100 пунктов до конца года, на текущем оборудовании TCEC, во всяком случае.

[Maratka]

Цитата: Сообщение от Омегазеро

Ну да, сейчас забросят 3-ю ветку, потом 4-ю, потом 5-ю...

Именно.

Цитата: Сообщение от Омегазеро

Не совсем понятно, зачем они это делают.

Вполне понятно: упираются рогом в предел старой сети, обученной на определенном алгоритме. Доучивать и переучивать - проще с нуля запустить. Однако, даст ли это самое "с нуля, и по новому алгоритму" что-то в практическом плане, узнать можно только через несколько месяцев. Т.е. время тратится, а результат под вопросом.
SF же дает стабильные ~70 ELO в год (в этом сезоне очень вероятно и вовсе ~100 будет).

[sovaz1997]

Цитата: Сообщение от Maratka

Верить тестам со SF.
Он что называется "by design" одинаково хорошо играет практически любой дебют, тогда как LZ мог отшлифовать (условно) французскую партию, провалившись во всех остальных (особенности самообучения: новая сеть по сути своей ищет ошибки в старой, и использует их, т.е. учится играть вполне определенные дебюты, и даже не пытается играть остальные).

Полностью согласен. Похоже, это и была причина, по которой новая сеть обошла старую. А в реальности прироста над ab-движками нет. Но эту сеть уже выбрали для турниров, хотя не факт, что она превосходит 32585.

[sovaz1997]

Цитата: Сообщение от Омегазеро

Ну да, сейчас забросят 3-ю ветку, потом 4-ю, потом 5-ю...

Не совсем понятно, зачем они это делают. Их 30 Эло в месяц не устраивает? Хотят повторить Альфу-зеро, которая обучилась на 44 млн играх? Так там были TPU и сильная команда программистов

Все правильно они делают. Кстати, оптимизация Лилы лучше, чем AZ, Так что кто лучше - ещё вопрос

Ну а так, между поколениями происходит много изменений в обучении, в test50, например, немного изменять структуру сети. Не зря всё это.

[Maratka]

Цитата: Сообщение от Омегазеро

А как вам проект Антифиш?

Никак. Мне вообще не нравится принцип а-ля "дружить против кого-то".

Да и опять же, с практической точки зрения этот проект скорее настроен на поиск дырочек в SF для их закрытия, чем на обыгрыш его в турнире (ибо чтобы его обыграть, для начала нужно выйти в финал, а поможет ли сеть, натренированная на SF обыграть Komodo и Houdini - вилами по воде писано).

[Maratka]

Цитата: Сообщение от sovaz1997

Ну а так, между поколениями происходит много изменений в обучении, в test50, например, немного изменять структуру сети. Не зря всё это.

Никто не говорит, что зря. Вопрос в том, каков будет выхлоп. Если очередные 30 ELO за полгода - то такими темпами SF будет скорее увеличивать отрыв, чем LZ - сокращать.

[Омегазеро]

Цитата: Сообщение от sovaz1997

Все правильно они делают

А Антифиш?
Вы не в курсе, с какого уровня начинали обучать эту сетку и сколько было партий до 125-й сети, которую признали лучшей?

[Maratka]

Понятия не имею.
Да и зачем гадать? Не проще ли запустить и сравнить его в матче с сетью, натренированной по классическому selfpaly?

[Alex_Zet]

Цитата: Сообщение от Maratka

, а поможет ли сеть, натренированная на SF обыграть Komodo и Houdini - вилами по воде писано).

А что, есть сомнение что сеть обыгравшая Стокфиш, не сможет выиграть матч у Комодо и Гудини взятых вместе?