LCZero

[Neofelis]

Маратка, открою вам секрет: сети одинаковой размерности, на одинаковрм движке покажут одинаковый nps.

[svoitsl]

Цитата: Сообщение от Neofelis

покажут одинаковый nps.

Такое конечно бывает, но чаcты и отличия на 20%
(например 610 сеть показывала у меня 20knps, а обычная - всего 16 knps )

[Maratka]

Цитата: Сообщение от alchemist888

Зачем? Движки одинаковые, следовательно один и тот же тайм менеджмент.

Сети разные. Native 320x24 против экстраполированой до 320x24 256x20

[Maratka]

Цитата: Сообщение от Neofelis

Маратка, открою вам секрет: сети одинаковой размерности, на одинаковрм движке покажут одинаковый nps.

Какать на nps. Важна разница ELO в реальном матче, где никак не отменить менеджер времени.

А то давайте еще LZ против SF выставим: пусть он играет на миллиарде против миллиона, фикированно, и во всех турнирах.

[sovaz1997]

Цитата: Сообщение от svoitsl

провел кое какой замер,из которого ясно, что вероятность того,что сеть T60 лучше сети T40 на значимую величину (ну хотя бы 30 Эло) весьма невелика
1541:62382
12-5-133
сеть 1541 сильнее на 16 Эло
(RTX2060, 60'+1', Balsa_top25, syzygy5)


Кто использует хорошие GPU не станут уж очень сильно экономить на потоках,мало 1-го так зададут в настройках 2!, чай не последние.

Поставим точку в этом вопросе.

# PLAYER                :  RATING  ERROR   POINTS  PLAYED   (%)  CFS(%)      W      D      L  D(%)
1 Stockfish.dev         :     0.0   ----  42067.0   80000    53      61  23093  37948  18959    47
2 lc0.net.62298         :    -0.5    3.6   9985.5   20000    50     100   5116   9739   5145    49
3 lc0.net.62177         :    -7.8    3.6   9783.0   20000    49     100   5005   9556   5439    48
4 lc0.net.J13B.2-136    :   -28.7    3.5   9199.5   20000    46     100   4550   9299   6151    46
5 lc0.net.J13-410       :   -37.2    3.5   8965.0   20000    45     ---   4288   9354   6358    47

White advantage = 52.45 +/- 0.90
Draw rate (equal opponents) = 48.68 % +/- 0.18

LC0: 1,500 nodes/move, SF-dev: 1,500,000 nodes/move @ 4 Threads, 512MB Hash

[Neofelis]

Тесты с фиксированным nps можно воспроизвести на любом железе. Тесты на время всегда зависят от сборки ПК и не воспроизводимы. Потому смысла в них нет. Ваш КО.

[sovaz1997]

Цитата: Сообщение от Neofelis

Тесты с фиксированным nps можно воспроизвести на любом железе. Тесты на время всегда зависят от сборки ПК и не воспроизводимы. Потому смысла в них нет. Ваш КО.

Да, кстати: почему фиксированный nps - как раз для того, чтобы собирать результаты и сливать в один. Кстати, FishTest тоже не запускает тупо 60+0.6, а проверяет железо и запускает с соответствующем коэффициентом. Может, Maratka не знал))

[alchemist888]

Цитата: Сообщение от Neofelis

Тесты с фиксированным nps можно воспроизвести на любом железе. Тесты на время всегда зависят от сборки ПК и не воспроизводимы. Потому смысла в них нет. Ваш КО.

В них есть смысл, когда мы обкатываем разные движки для сетей, или разные настройки. Ну и когда проводим тесты с AB движками. В остальном же да, бесполезны.

[svoitsl]

Цитата: Сообщение от sovaz1997

Да, кстати: почему фиксированный nps - как раз для того, чтобы собирать результаты и сливать в один

В рамках сети одной размерности наверное фиксированный nps и допустим, если движки к тому же одинаковые, то они имеют идентичный TM и влияние сети одинаковой размерности на него тоже одинаково и TM (без особого душевного надрыва) можно и отключить.
Но задача то стояла сравнить лучшую сеть T40 (я выбрал 1541) и лучшую T60, (я выбрал последнюю - 62382 ) (ведь об этом просил Maratka 4 раза) ,тут уже фиксированным nps не отделаться.
И как можно ставить "точку", когда теcты по сути совершено разные?

Эло - относительный показатель, поэтому не должен сильно зависть от железа (в разумных пределах)

[Maratka]

Цитата: Сообщение от Neofelis

Тесты с фиксированным nps можно воспроизвести на любом железе. Тесты на время всегда зависят от сборки ПК и не воспроизводимы. Потому смысла в них нет. Ваш КО.

Тесты на время ВСЕГДА покажут преимущество одной сети над другой при равном движке, если таковое имеется. И тем паче покажут дельту роста сети одного семейства над своими предшественниками. Всего то нужно не бегать между разными системами, а следить за одной и той же.

[Maratka]

Цитата: Сообщение от sovaz1997

LC0: 1,500 nodes/move, SF-dev: 1,500,000 nodes/move @ 4 Threads, 512MB Hash

Ну и? у svoitsl контроль на время, у Вас в примере - фиксированный nps.
Еще можно дать фиксированное время на ход (типа по секунде, или минуте, как в матче AZ vs SF8) - в любом случае отпадает важная составляющая движка - менеджер времени на ход.

[Neofelis]

Мы же сравниваем сети, а не движок, верно? При чем тут тайм-менеджмент? Вам показывают тесты сетей одинаковой размерности с одинаковым движком - более чистого теста не найти.

[Maratka]

При том, что в реальном турнире таймменеджмент будет решать делать ли ход сейчас, или покрутить еще n узлов.
При том, что сеть бОльшей размерности действительно обязана быть умнее при должном обучении, но неизбежно будет медленнее при прочих равных, а скорость счета для любого шахматного движка имеет вполне заметное влияние: запустите LZ той же сети и того же движка с FP16 vs FP32, и замерьте разницу.

[alchemist888]

Maratka, Вы же сами просили тесты на одноразмерных сетях с одинаковыми настройками. Вам показали, хотя могли бы и сами посмотреть в discord. Теперь что? Блиц на 950, 1650, 2060, 2080 TI, а далее на чистом CPU? Так в некоторых случаях мы получим, что 10x128 и меньшего размера сети окажутся лучше.
Вы что вообще выяснить хотите?

[Neofelis]

Красивая табличка, где хорошо видна разница между 10х и 20х поколениями GPU. Ждем 30х

[Maratka]

Цитата: Сообщение от alchemist888

Вы что вообще выяснить хотите?

Хочу узнать, какая сеть сильнее на минутном контроле.

Цитата: Сообщение от alchemist888

Maratka, Вы же сами просили тесты на одноразмерных сетях с одинаковыми настройками.

Пятый раз пишу: нужен турнир на время. Если с пяти раз не дошло - то проблемы не мои, а дундуков, которые не понимают, что нельзя сравнить сети, заведомо обладающие разной скоростью на равном железе по фиксированному количеству узлов, ибо в реальной жизни всегда существует фактор времени. Он может иметь не очень большое значение для адвансеров, но и им придется через час ли, два ли анализ прерывать. Он может иметь некоторое заметное значение на контроля а-ля час на партию. И он может иметь решающее значение на минутных контролях.

Я все написал. А дальше решайте, дундук Вы, или таки нет.

[Maratka]

Цитата: Сообщение от Neofelis

Красивая табличка, где хорошо видна разница между 10х и 20х поколениями GPU. Ждем 30х

Бред написан.
Тут достаточно уметь строить пропорции, что проходят где-то в четвертом классе школы, чтобы понять, насколько большой там бред.

1050 Ti - 768 ядер
1050 - 640 ядер
Разница в количесте ядер - 768/640=1,2 или 20%
Рост скорости - 25/17=1,47, или 47%
ОТКУДА такая огромная дельта скорости?

GTX 1060, та же архитектура, 1280 ядер CUDA
По сравнению с 1050 Ti количество ядер выше в 1,67 раз, или на 67%, попутно в ~полтора раза увеличена скорость памяти.
При этом, производительность выше всего-то 30/25=1,2 раза, или 20%.
ПОЧЕМУ такая крошечная дельта скорости?

Дальше не читал, ибо дальше явно не будет лучше.

[Rom77]

Цитата: Сообщение от Neofelis

Красивая табличка, где хорошо видна разница между 10х и 20х поколениями GPU. Ждем 30х

Честно говоря, совершенно непонятно чего ждать от нового поколения видеокарт. Я пытался думать о том какую выгоду 30x могут принести, но получалось как в том анекдоте - "либо встречу, либо не встречу".

Для Лилы важно, чтобы в новом поколении видеокарт была увеличена общая частота процессора - GPU и количество тензорных ядер (точнее общее количество вычислительных ячеек вцелом, но не суть).

По слухам, Nvidia собирается переходить на новый техпроцесс, так что увеличение частоты вполне реально, но вряд ли более чем полтора раза. Так же, на новом техпроцессе Nvidia получит в свое распоряжение определенное дополнительное количество транзисторов, которыми вольна распорядиться по своему усмотрению. Nvidia может их перераспределить так как считает нужным - между тензорными ядрами, обычными ядрами и блоками обработки лучей. А вот как она посчитает нужным, совершенно непонятно.

В последнее время много разговоров о лучах. В играх они сейчас более востребованы, чем тензорные ядра. Ну и конечно обычные Cuda-ядра тоже важнее. Таким образом как поведет себя Nvidia даже приблизительно сказать нельзя. Может быть производительность Лилы удвоится, но с такой же вероятностью можно и ожидать, что нам придется довольствоваться незначительной прибавкой в скорости.

Возможны конечно иные улучшения, например в области частоты и типа видеопамяти, различного рода улучшения программного обеспечения, но вряд ли они будут значительными.

[Rom77]

Цитата: Сообщение от Rom77

Возможны конечно иные улучшения, например в области частоты и типа видеопамяти, различного рода улучшения программного обеспечения, но вряд ли они будут значительными.

Теоретически возможны конечно ещё более глобальные преобразования, навроде возможности переноса текущих вычислений CPU на GPU, или аппаратная поддержка тензорными ядрами преобразования по методу Винограда, или что-то ещё. Но об этом судить я не берусь.

[Neofelis]

Цитата: Сообщение от Maratka

Бред написан.
ОТКУДА такая огромная дельта скорости?

Из-за тензор-ядер. Ну право, учите матчасть. Ведь не первый день эту ветку читаете.

[Neofelis]

Цитата: Сообщение от Maratka

Хочу узнать, какая сеть сильнее на минутном контроле.

На какой видеокарте? Или на CPU? Ну что вы как маленький, честное слово.

[Maratka]

Цитата: Сообщение от Neofelis

Из-за тензор-ядер. Ну право, учите матчасть. Ведь не первый день эту ветку читаете.

И сколько тензор-ядер есть в Паскале?

[Maratka]

Цитата: Сообщение от Neofelis

На какой видеокарте? Или на CPU? Ну что вы как маленький, честное слово.

На той, которая есть у тестера.

[Alex_Zet]

Маратка это последний оплот, бастион и очаг сопротивления и с его падением откроется прямая дорога к Суперфиналу.

[Neofelis]

Цитата: Сообщение от Maratka

И сколько тензор-ядер есть в Паскале?

И при чем тут Паскаль? Я об магнитуде роста при переходе от 10х до 20х.

[Neofelis]

Цитата: Сообщение от Maratka

На той, которая есть у тестера.

СССС в качестве тестера не подходит?

[Maratka]

Нет конечно же.
Там и партий мало, и настройки движков разные.

[Maratka]

Цитата: Сообщение от Neofelis

И при чем тут Паскаль? Я об магнитуде роста при переходе от 10х до 20х.

А я о трех платах внизу таблицы, если Вы соизволили прочитать мое сообщение полностью, а не только первые два слова.

[Омегазеро]

Цитата: Сообщение от svoitsl

Видимо решив,что в сеть59 уже вбухано порядочное кол-во ресурсов,решили завершить ее тренировку

Проверим сеть 59!

lc0-591215 vs stockfish_20021009_x64_modern
Двести игр с одноходовыми дебютами Noomen (100 дебютов белыми и черными)

+23 -29 =148
Elo difference: -10.8

Контроль 60s+0.6s
Stockfish на 3900x (средняя скорость 28,5 Mnps), Lc0 на RTX2060 (средняя скорость 159knps)
Хэш Стокфиша - 512 Мбайт, нейрохэш Лилы - 2 млн
Поражение - оценка -800cp у проигравшего
Также присуждение по пятифигуркам

среднее время на ход в матче - 1,2 секунды
среднее число ходов в партии матча - 88.8

Игры прилагаются

Можно ли из этого теста сделать вывод, что Виктор прав и "бревно" для нейродвижков существует - увеличение емкости сетей не даёт существенного прогресса?

За два месяца сеть размерности 10x128 обучилась до уровня, который всего на 20 Эло отстаёт от сети 24x320, обучавшейся 7 месяцев

[Neofelis]

Конечно же нет.