Forchess - форум о заочных шахматах  

Вернуться   Forchess - форум о заочных шахматах > Заочные турниры и партии > Шахматные программы и движки

Ответ
 
Опции темы Опции просмотра
Старый 02.12.2020, 18:19   #7351
Maratka
Эксперт
 
Аватар для Maratka
 
Регистрация: 11.04.2017
Адрес: РФ, Крым, Севастополь.
Сообщений: 11,849
Сказал(а) спасибо: 3,311
Поблагодарили 5,952 раз(а) в 4,245 сообщениях
Репутация: 253
По умолчанию Re: LCZero

Это "если".
А реально у нас два движка, LZ и SF, который изнутри отличаются больше чем полностью. Ну ладно, недавно третий появился (DbK), который можно в первом приближении считать SF'шем, но даже он - лишь в первом приближении. Ибо есть то же отсечение ходов в поиске, и кто лучше это дело делает - тот и в целом лучше. У DbK в этом смысле все, как и у старого Komodo: те же два поиска, и очень сомневаюсь, что специально под NNUE их заметно улучшили.
Maratka вне форума   Ответить с цитированием
Старый 02.12.2020, 18:23   #7352
svoitsl
Гроссмейстер
 
Аватар для svoitsl
 
Регистрация: 19.04.2017
Сообщений: 4,734
Сказал(а) спасибо: 1,204
Поблагодарили 2,853 раз(а) в 1,885 сообщениях
Репутация: 159
По умолчанию Re: LCZero

Цитата: Сообщение от Maratka
А реально у нас два движка, LZ и SF,
То что я написал относится конечно к клонам SF и LZ раздельно
svoitsl вне форума   Ответить с цитированием
Старый 02.12.2020, 18:27   #7353
Maratka
Эксперт
 
Аватар для Maratka
 
Регистрация: 11.04.2017
Адрес: РФ, Крым, Севастополь.
Сообщений: 11,849
Сказал(а) спасибо: 3,311
Поблагодарили 5,952 раз(а) в 4,245 сообщениях
Репутация: 253
По умолчанию Re: LCZero

А смысл их сравнивать?
При равном оригинальном коде, если его портировать на C, то cFish всего выиграет, тем чаще, чем меньше контроль, ибо компиляторы C банально выдают бинарь быстрее компиляторов плюсов.
Maratka вне форума   Ответить с цитированием
Старый 02.12.2020, 19:53   #7354
Владимир001
Эксперт
 
Аватар для Владимир001
 
Регистрация: 19.12.2019
Сообщений: 7,484
Сказал(а) спасибо: 4,655
Поблагодарили 12,178 раз(а) в 5,475 сообщениях
Репутация: 259
По умолчанию Re: LCZero

Match: 66193 vs J94-60

Развернуть для просмотра


LC0 version: v0.26.3
LC0 options: Threads=2
Time control: N/A
Hardware: AMD Phenom II X6 1035T Processor, GTX 1660
Speed: J94-60: 2000 npm | 66193: 7500 npm
Book: 10ply-100k
Book options: Opening order: Sequential. Play all openings for both white and black.
Tablebases: No Tablebases.
Adjudication: -draw movenumber=40 movecount=4 score=8 -resign movecount=4 score=500
Software: CuteChess-cli
Comments: More testing to try to find the ratio between 24b nets and 30b nets where their strength is relatively equal.
Код:
  # PLAYER    :  RATING  ERROR  POINTS  PLAYED   (%)  CFS(%)    W    D    L  D(%)
  1 J94-60    :     1.5    8.0   602.5    1200    50      64  106  993  101    83
  2 66193     :     0.0   ----   597.5    1200    50     ---  101  993  106    83

White advantage = 37.82 +/- 4.13
Draw rate (equal opponents) = 85.99 % +/- 1.15
[свернуть]
Вложения
Тип файла: rar Output.rar (754.1 Кб, 3 просмотров)
Владимир001 вне форума   Ответить с цитированием
Пользователь сказал cпасибо:
Виталий В. (04.12.2020)
Старый 02.12.2020, 22:57   #7355
Владимир001
Эксперт
 
Аватар для Владимир001
 
Регистрация: 19.12.2019
Сообщений: 7,484
Сказал(а) спасибо: 4,655
Поблагодарили 12,178 раз(а) в 5,475 сообщениях
Репутация: 259
По умолчанию Re: LCZero

SF-dev vs. LC0 24x320 nets

Развернуть для просмотра


Hardware: i5-8400 CPU @ 2.80GHz, 6 cores, 32GB, gpu RTX 2060, 6GB
Network IDs: T60B.7-105, T60B.7-135, 62948, 64255, 65162, 65297, 65373, 65374, 65726, 65762, 65830, 65889, 65939, 65988, 66053, 66103, 66148, 66234, 66275, 66314, 66353, 66381
LC0-version: v0.26.0
SF-version: SF-dev 20092708 (NNUE hybrid)
Software: Cutechess-CLI
Time control: LC0: 1,500 nodes/move, SF-dev: 300,000 nodes/move @ 4 Threads, 512MB Hash
Book: Chad's 8-ply book with 10000 positions, order=sequential
Tablebases: 6-men
Adjudication: -draw movenumber=50 movecount=5 score=8 -resign movecount=5 score=1000
Ordo: -a 0 -A "Stockfish.dev" -W -D -U "0,1,2,3,4,5,6,7,8,9,10" -s 2000 -n 1
Comment:
Код:
   # PLAYER                :  RATING  ERROR    POINTS  PLAYED   (%)  CFS(%)      W       D       L  D(%)
   1 lc0.net.65939         :    38.2    3.3   11058.0   20000    55      59   5592   10932    3476    55
   2 lc0.net.66353         :    37.7    3.3   11043.5   20000    55      69   5608   10871    3521    54
   3 lc0.net.66314         :    36.5    3.3   11011.5   20000    55      60   5518   10987    3495    55
   4 lc0.net.66148         :    35.9    3.3   10994.5   20000    55      52   5498   10993    3509    55
+  5 lc0.net.66381         :    35.8    3.3   10991.0   20000    55      56   5488   11006    3506    55
   6 lc0.net.65889         :    35.5    3.2   10982.0   20000    55      62   5529   10906    3565    55
   7 lc0.net.65988         :    34.8    3.3   10963.0   20000    55      50   5474   10978    3548    55
   8 lc0.net.66234         :    34.8    3.2   10962.5   20000    55      51   5495   10935    3570    55
   9 lc0.net.66103         :    34.7    3.3   10961.0   20000    55      56   5449   11024    3527    55
  10 lc0.net.65762         :    34.4    3.2   10952.0   20000    55      57   5494   10916    3590    55
  11 lc0.net.66275         :    34.0    3.2   10940.5   20000    55      58   5406   11069    3525    55
  12 lc0.net.65830         :    33.5    3.3   10927.5   20000    55      68   5457   10941    3602    55
  13 lc0.net.66053         :    32.4    3.2   10897.5   20000    54      71   5363   11069    3568    55
  14 lc0.net.65726         :    31.1    3.3   10862.0   20000    54      66   5317   11090    3593    55
  15 lc0.net.65297         :    30.2    3.1   10836.0   20000    54      59   5374   10924    3702    55
  16 lc0.net.65373         :    29.7    3.2   10822.0   20000    54      85   5360   10924    3716    55
  17 lc0.net.65162         :    27.2    3.2   10754.0   20000    54      94   5255   10998    3747    55
  18 lc0.net.65374         :    23.7    3.2   10657.5   20000    53      90   5127   11061    3812    55
  19 lc0.net.T60B.7-135    :    20.8    3.3   10576.5   20000    53      62   4994   11165    3841    56
  20 lc0.net.T60B.7-105    :    20.0    3.2   10556.0   20000    53     100   4984   11144    3872    56
  21 lc0.net.62948         :     5.9    3.3   10163.0   20000    51      83   4400   11526    4074    58
  22 lc0.net.64255         :     3.6    3.2   10100.0   20000    51      99   4463   11274    4263    56
- 23 Stockfish.dev         :     0.0   ----  201988.5  440000    46     ---  80622  242733  116645    55

White advantage = 57.63 +/- 0.35
Draw rate (equal opponents) = 57.40 % +/- 0.08
PGN:
https://pixeldrain.com/u/q4jtAYf2
[свернуть]
Владимир001 вне форума   Ответить с цитированием
Пользователь сказал cпасибо:
Viktor (02.12.2020)
Старый 02.12.2020, 23:07   #7356
Владимир001
Эксперт
 
Аватар для Владимир001
 
Регистрация: 19.12.2019
Сообщений: 7,484
Сказал(а) спасибо: 4,655
Поблагодарили 12,178 раз(а) в 5,475 сообщениях
Репутация: 259
По умолчанию Re: LCZero

Match: ERET test (Eigenmann Rapid Engine Test) with 111 test positions

Развернуть для просмотра


time control: analysis with time limit of 60s per move/position
LC0-version: v0.21.2 up to v0.26.3
LC0-options: -Backend=cudnn -NNcache=3000000 -MaxCcollisionEvents=256
MLH-settings S19 SuFi: -MovesLeftMaxEffect=0.2 -MovesLeftSlope=0.004 -MovesLeftThreshold=0.0 -MovesQuadraticFactor=0.0 -MovesScaledFactor=1.0
AB engine options: threads=4, hash=4096 MB
hardware: mobile Geforce GTX 1050 TI 4GB, mobile i7-7700HQ 4x2.8GHz (8 threads with HT)
software: Arena GUI, "Automatic Analysis" feature with EPD file.
Tablebases: Syzygy 5-men on SSD
Comment: EPD file: https://glarean-magazin.ch/wp-conten...gine-Chess.zip
Results (solutions, percent):
Код:
A) CPU engines (mobile i7-7700HQ 4x2.8GHz):
Crystal-NNUE_271020_4CPU        :  98 = 88.3%   *net: nn-eba324f53044.nnue*
CorChess NNUE 1.3_081120 4CPU   :  97 = 87.4%   *net: nn-c3ca321c51c9.nnue*
Cfish 081120 NNUE Pure 4CPU     :  97 = 87.4%   *Pure NNUE eval*, *net: nn-c3ca321c51c9.nnue*
Cfish 081120 NNUE 4CPU          :  96 = 86.5%   *net: nn-c3ca321c51c9.nnue*
Stockfish 20111513 NNUE 4CPU    :  96 = 86.5%   *net: nn-c3ca321c51c9.nnue*
CorChess NNUE 1.3_291120 4CPU   :  95 = 85.6%   <== NEW, *net: nn-62ef826d1a6d.nnue*
Cfish 151120 NNUE 4CPU          :  94 = 84.7%   *net: nn-c3ca321c51c9.nnue*
Stockfish 12 4CPU (NNUE)        :  94 = 84.7%   *net: nn-82215d0fd0df.nnue*
BrainFish_200724_4CPU           :  92 = 82.9%
Stockfish 20073110 4CPU         :  92 = 82.9%   *Stockfish Classic, last version before NNUE*
Stockfish 11 4CPU               :  91 = 82.9%
Stockfish 10 4CPU               :  90 = 81.1%
Komodo-13.2.5_4CPU              :  88 = 79.3%
Komodo 12.1.1 4CPU (freeware)   :  84 = 75.7%
RubiChess 1.8 NNUE 4CPU         :  84 = 75.7%   *net: nn-803c91ad5c-20201107.nnue*
SlowChess Blitz Cl. v2.4 4CPU   :  83 = 74.8%
Nemorino 6.00 NNUE 4CPU         :  77 = 69.4%   *net: nemorino_net_6.nnue*
Xiphos 0.6 4CPU                 :  76 = 68.4%
Ethereal 12.75 pext-avx2 4CPU   :  73 = 65.8%
Igel 2.8.0 NNUE 4CPU            :  72 = 64.9%   *net: night nurse v0.2.5b*
Laser 1.7 4CPU                  :  72 = 64.9%
Komodo-MCTS-13.2.5_4CPU         :  62 = 55.9%
Lc0.net.703350-blas_4CPU        :  60 = 54.1%
Fire 7.1 4CPU                   :  60 = 54.1%
Lc0.net.DK.Bad_Gyal_7_blas_4CPU :  57 = 51.4%
Lc0.net.LD2_blas_4CPU  (10x128) :  56 = 50.4%
Код:
B) GPU engines (mobile Geforce GTX 1050 TI 4GB):
Lc0-0.22.0-dev.Leelenstein 14.3 :  83 = 74.8%
Lc0.net.66370 (24x320)          :  83 = 74.8%   <== NEW, *bad result against Corchess at 5min+5s TC*
Lc0.net.JH.J96-28  (30x384)     :  82 = 73.9%   <== NEW, first J96 net
Lc0.net.66412 (24x320)          :  82 = 73.9%   <== NEW, latest tested T60 net
Lc0.net.66350 (24x320)          :  82 = 73.9%   *best tested T60 net against Corchess NNUE at 5min+5s TC*
Lc0.net.66320 (24x320)          :  82 = 73.9%
Lc0.net.66167 (24x320)          :  82 = 73.9%
Lc0.net.65981 (24x320)          :  82 = 73.9%
Lc0.net.JH.J92-270  (30x384)    :  81 = 73.0%   ** TCEC Cup 7 net **
Lc0.net.JH.J92-260  (30x384)    :  81 = 73.0%
Lc0.net.JH.J92-210  (30x384)    :  81 = 73.0%
Lc0.net.66390 (24x320)          :  81 = 73.0%   <== NEW
Lc0.net.66374 (24x320)          :  81 = 73.0%   <== NEW
Lc0.net.66358 (24x320)          :  81 = 73.0%   <== NEW
Lc0.net.66338 (24x320)          :  81 = 73.0%
Lc0.net.JH.J92-280  (30x384)    :  80 = 72.1%   *best net against SF Dev + Corchess NNUE at 5min+5s TC*
Lc0.net.JH.J94-80  (30x384)     :  80 = 72.1%
Lc0.net.JH.J94-60  (30x384)     :  80 = 72.1%
Lc0.net.JH.J92-240  (30x384)    :  80 = 72.1%
Lc0.net.66222 (24x320)          :  80 = 72.1%
Lc0.net.66205 (24x320)          :  80 = 72.1%
Lc0.net.66114 (24x320)          :  80 = 72.1%
Lc0.net.66000 (24x320)          :  80 = 72.1%
Lc0.net.65500 (24x320)          :  80 = 72.1%
Lc0.net.JH.J94-40  (30x384)     :  79 = 71.2%
Lc0.net.JH.J92-330  (30x384)    :  79 = 71.2%   ** TCCE S19 FRC2 + CCC Blitz Championship net **
Lc0.net.JH.J92-250  (30x384)    :  79 = 71.2%
Lc0.net.JH.J92-230  (30x384)    :  79 = 71.2%
Lc0.net.JH.J92-220  (30x384)    :  79 = 71.2%
Lc0.net.JH.J92-190  (30x384)    :  79 = 71.2%   ** TCEC S19 SuFi net **
[свернуть]
Владимир001 вне форума   Ответить с цитированием
Пользователь сказал cпасибо:
Виталий В. (04.12.2020)
Старый 03.12.2020, 14:11   #7357
Владимир001
Эксперт
 
Аватар для Владимир001
 
Регистрация: 19.12.2019
Сообщений: 7,484
Сказал(а) спасибо: 4,655
Поблагодарили 12,178 раз(а) в 5,475 сообщениях
Репутация: 259
По умолчанию Re: LCZero

Match: Lc0 vs Stockfish 12 (4T)

Развернуть для просмотра


Time control: 5s + 0.5s
Hardware: RTX 2060, Ryzen-9 4900H
Openings: noob_3moves.pgn (150000 pos.)
Stockfish 12 avx2: threads=4, hash=64, MoveOverhead=0
Lc0 26.3 cuda-fp16: threads=2, minibatch-size=60, mlh tcec-19 settings=on, move-overhead=0
Lc0 benchmark (./lc0 benchmark --minibatch-size=60 --movetime=500): J92-330 = 3.5 knps
SF-12 4T bench (64 4 500 default movetime NNUE) = 8500 knps
TBs and adj.: syzygy 5-men, resign movecount=5 score=600, draw movenumber=30 movecount=5 score=5, time forfeit disabled
Comments: J96-28 seems on par with J92-330. Rating differential with Stockfish-12 4T is a bit lower for J92-330 here than in my previous FRC test (-42.1 elo, see:
https://discord.com/channels/4254194...61724713877514
notably due to a higher draw rate in standard (both tests had a 3 moves book). FRC seems to generate a more imbalanced game, but I wouldn't say now that J92 underperforms at it.
Games: https://gofile.io/d/PEZ67w

Код:
# PLAYER                : RATING  ERROR  PLAYED  (%)   CFS   W     D    L    D(%)
1 Stockfish 12 4CPU     :    0.0   ----   4000  54.36  100  710  2929  361  73.22
2 lc0-263-cuda-j96-28   :  -30.1    7.9   2000  45.73   59  178  1473  349  73.65
3 lc0-263-cuda-j92-330  :  -31.3    7.7   2000  45.55  ---  183  1456  361  72.80

White advantage = 11.57 +/- 2.76
Draw rate (equal opponents) = 74.46 % +/- 0.67

FRC - 3 moves book, same conditions 
# PLAYER                : RATING  ERROR  PLAYED  (%)   CFS   W     D    L   D(%)
1 Stockfish 12 4CPU     :    0.0   ----   2000  55.92  100  610  1017  373  50.85
2 lc0-263-cuda-j92-330  :  -42.1   10.3   2000  44.08  ---  373  1017  610  50.85

White advantage = 32.99 +/- 4.91
Draw rate (equal opponents) = 52.08 % +/- 1.19
[свернуть]
Владимир001 вне форума   Ответить с цитированием
2 пользователя(ей) сказали cпасибо:
Viktor (03.12.2020), Виталий В. (04.12.2020)
Старый 03.12.2020, 20:33   #7358
Maratka
Эксперт
 
Аватар для Maratka
 
Регистрация: 11.04.2017
Адрес: РФ, Крым, Севастополь.
Сообщений: 11,849
Сказал(а) спасибо: 3,311
Поблагодарили 5,952 раз(а) в 4,245 сообщениях
Репутация: 253
По умолчанию Re: LCZero

Это точно SF12, а не последние dev-сборки?
Ибо если да, то получается, что LZ фактически не растет на фоне SF, весь его рост купируется примерно таким же у SF-dev.
А может даже у LZ рост еще меньше (4 ядра у SF заведомо немного на фоне пусть и младшей в семействе, но таки RTX 2060).
Maratka вне форума   Ответить с цитированием
Старый 05.12.2020, 03:52   #7359
Владимир001
Эксперт
 
Аватар для Владимир001
 
Регистрация: 19.12.2019
Сообщений: 7,484
Сказал(а) спасибо: 4,655
Поблагодарили 12,178 раз(а) в 5,475 сообщениях
Репутация: 259
По умолчанию Re: LCZero

SF-dev vs. LC0 24x320 nets

Развернуть для просмотра


Hardware: i5-8400 CPU @ 2.80GHz, 6 cores, 32GB, gpu RTX 2060, 6GB
Network IDs: T60B.7-105, T60B.7-135, 62948, 64255, 65162, 65297, 65373, 65374, 65726, 65762, 65830, 65889, 65939, 65988, 66053, 66103, 66148, 66234, 66275, 66314, 66353, 66381, 66430
LC0-version: v0.26.0
SF-version: SF-dev 20092708 (NNUE hybrid)
Software: Cutechess-CLI
Time control: LC0: 1,500 nodes/move, SF-dev: 300,000 nodes/move @ 4 Threads, 512MB Hash
Book: Chad's 8-ply book with 10000 positions, order=sequential
Tablebases: 6-men
Adjudication: -draw movenumber=50 movecount=5 score=8 -resign movecount=5 score=1000
Ordo: -a 0 -A "Stockfish.dev" -W -D -U "0,1,2,3,4,5,6,7,8,9,10" -s 2000 -n 1
Comment:
Код:
   # PLAYER                :  RATING  ERROR    POINTS  PLAYED   (%)  CFS(%)      W       D       L  D(%)
   1 lc0.net.65939         :    38.2    3.2   11058.0   20000    55      59   5592   10932    3476    55
   2 lc0.net.66353         :    37.7    3.3   11043.5   20000    55      62   5608   10871    3521    54
+  3 lc0.net.66430         :    37.0    3.2   11024.5   20000    55      58   5501   11047    3452    55
   4 lc0.net.66314         :    36.5    3.2   11011.5   20000    55      61   5518   10987    3495    55
   5 lc0.net.66148         :    35.9    3.2   10994.5   20000    55      52   5498   10993    3509    55
   6 lc0.net.66381         :    35.8    3.2   10991.0   20000    55      56   5488   11006    3506    55
   7 lc0.net.65889         :    35.5    3.2   10982.0   20000    55      62   5529   10906    3565    55
   8 lc0.net.65988         :    34.8    3.1   10963.0   20000    55      50   5474   10978    3548    55
   9 lc0.net.66234         :    34.8    3.3   10962.5   20000    55      51   5495   10935    3570    55
  10 lc0.net.66103         :    34.7    3.3   10961.0   20000    55      55   5449   11024    3527    55
  11 lc0.net.65762         :    34.4    3.3   10952.0   20000    55      57   5494   10916    3590    55
  12 lc0.net.66275         :    34.0    3.2   10940.5   20000    55      58   5406   11069    3525    55
  13 lc0.net.65830         :    33.5    3.2   10927.5   20000    55      68   5457   10941    3602    55
  14 lc0.net.66053         :    32.4    3.2   10897.5   20000    54      71   5363   11069    3568    55
  15 lc0.net.65726         :    31.1    3.2   10862.0   20000    54      66   5317   11090    3593    55
  16 lc0.net.65297         :    30.2    3.2   10836.0   20000    54      58   5374   10924    3702    55
  17 lc0.net.65373         :    29.7    3.4   10822.0   20000    54      85   5360   10924    3716    55
  18 lc0.net.65162         :    27.2    3.3   10754.0   20000    54      93   5255   10998    3747    55
  19 lc0.net.65374         :    23.7    3.3   10657.5   20000    53      90   5127   11061    3812    55
  20 lc0.net.T60B.7-135    :    20.8    3.2   10576.5   20000    53      62   4994   11165    3841    56
  21 lc0.net.T60B.7-105    :    20.0    3.2   10556.0   20000    53     100   4984   11144    3872    56
  22 lc0.net.62948         :     5.9    3.3   10163.0   20000    51      83   4400   11526    4074    58
  23 lc0.net.64255         :     3.6    3.2   10100.0   20000    51      99   4463   11274    4263    56
- 24 Stockfish.dev         :     0.0   ----  210964.0  460000    46     ---  84074  253780  122146    55

White advantage = 57.73 +/- 0.34
Draw rate (equal opponents) = 57.42 % +/- 0.08
PGN:
https://pixeldrain.com/u/vXXYow1r
[свернуть]
Владимир001 вне форума   Ответить с цитированием
2 пользователя(ей) сказали cпасибо:
Viktor (05.12.2020), Виталий В. (06.12.2020)
Старый 05.12.2020, 15:26   #7360
Владимир001
Эксперт
 
Аватар для Владимир001
 
Регистрация: 19.12.2019
Сообщений: 7,484
Сказал(а) спасибо: 4,655
Поблагодарили 12,178 раз(а) в 5,475 сообщениях
Репутация: 259
По умолчанию Re: LCZero

NN-testrun of Lc0 0.26.3 J96-28 finished - new highscore:
https://www.sp-cc.de/nn-vs-sf-testing.htm
Владимир001 вне форума   Ответить с цитированием
2 пользователя(ей) сказали cпасибо:
Viktor (05.12.2020), Виталий В. (06.12.2020)
Старый 05.12.2020, 15:29   #7361
Владимир001
Эксперт
 
Аватар для Владимир001
 
Регистрация: 19.12.2019
Сообщений: 7,484
Сказал(а) спасибо: 4,655
Поблагодарили 12,178 раз(а) в 5,475 сообщениях
Репутация: 259
По умолчанию Re: LCZero

Match: J96-44 vs Stockfish 20111513 in fixed nodes

Развернуть для просмотра


LC0 version: 0.26.3
LC0 options: cudnn-fp16, 1 thread, default for the rest
SF options: 1 thread, 1GB Hash.
Time control: Leela: 1 kn/move, SF dev: 300Kn/move
Hardware: RTX 2070, i7-7700
Book: Balsa 2724 openings
Tablebases: 6-man TB for both.
Adjudication: 6-man TB, -draw movenumber=50 movecount=5 score=8 -resign movecount=5 score=1000
Software:cutechess-cli
Comments: J96-44 got +3 elo compared to SF in this test, co-first place with J94-80 with the same points but with less wins and losses.
Код:
Leela:  1 thread, 1Kn/move
SF dev: 1 thread, 300Kn/move

Balsa 2724
   # PLAYER                 :  RATING  ERROR   POINTS  PLAYED   (%)  CFS(%)     W      D     L
   1 lc0.net.J94-80.1k      :       3      6   2746.5    5448  50.4      50   988   3517   943
+  2 lc0.net.J96-44.1k      :       3      5   2746.5    5448  50.4      55   978   3537   933
   3 lc0.net.J94-60.1k      :       2      6   2742.5    5448  50.3      80   981   3523   944
-  4 SF_dev20111513.300k    :       0   ----  10850.0   21792  49.8      79  3810  14080  3902
   5 lc0.net.J96-28.1k      :      -2      6   2706.5    5448  49.7     ---   955   3503   990
https://pixeldrain.com/u/9xcyn2ge
[свернуть]
Владимир001 вне форума   Ответить с цитированием
2 пользователя(ей) сказали cпасибо:
Viktor (05.12.2020), Виталий В. (06.12.2020)
Старый 05.12.2020, 18:06   #7362
Владимир001
Эксперт
 
Аватар для Владимир001
 
Регистрация: 19.12.2019
Сообщений: 7,484
Сказал(а) спасибо: 4,655
Поблагодарили 12,178 раз(а) в 5,475 сообщениях
Репутация: 259
По умолчанию Re: LCZero

Match: lc0.26.J96-28 vs Stockfish 12 4CPU - 100 rapid games

Развернуть для просмотра


LC0-version: v26.0 cuda
LC0-options: --backend=multiplexing --cpuct=2.147 --cpuct-factor=2.815 --cpuct-base=18368 --fpu-value=0.443 --policy-softmax-temp=1.607 --moves-left-max-effect=0.1 --moves-left-threshold=0.5 --moves-left-slope=0.007 --moves-left-quadratic-factor=0 --moves-left-scaled-factor=1 --moves-left-constant-factor=0
Time control: 15min + 5s (CCRL 40/15)
Hardware: CPU i7-8700 4cores vs 1070Ti GPU
Book: Custom short lines played from both sides (!sheet4 for opening list)
Tablebase: 6 piece syzygy (DTZ + WDL) for both engines
Software: Arena
Speed: Leela ratio ~0.85; Lc0 npm~200K, SF npm~200M (based on 24x256 nets, SV nets much slower)
Context: First test of new J96 nets - to serve as a baseline !sheet4 for test history

Ordo score (w/ comparison later fater more J96 nets):
Код:
# PLAYER                :  RATING  ERROR  POINTS  PLAYED   (%)  CFS(%)    W    D    L
1 Stockfish_12_x64-bmi2 :  3522.0   ----    53.0     100    53      97    8   90    2
2 lc0.26.J96-28         :  3500.9   21.6    47.0     100    47     ---    2   90    8
(This is worse than top J92 nets but BETTER than J94 nets in my tests)
Код:
lc0.26.J96-28 - Stockfish_12_x64-bmi2 : 47.0/100 2-8-90 (=========1=============0==0======================0==========0========0=0=0=0======================1=)  47%  -> 3515
[свернуть]
Владимир001 вне форума   Ответить с цитированием
Пользователь сказал cпасибо:
Виталий В. (06.12.2020)
Старый 06.12.2020, 01:08   #7363
Владимир001
Эксперт
 
Аватар для Владимир001
 
Регистрация: 19.12.2019
Сообщений: 7,484
Сказал(а) спасибо: 4,655
Поблагодарили 12,178 раз(а) в 5,475 сообщениях
Репутация: 259
По умолчанию Re: LCZero

Match: J92-330 vs Stockfish 20111513 in fixed nodes

Развернуть для просмотра


LC0 version: 0.26.3
LC0 options: cudnn-fp16, 1 thread, default for the rest
SF options: 1 thread, 1GB Hash.
Time control: Leela: 1 kn/move, SF dev: 300Kn/move
Hardware: RTX 2070, i7-7700
Book: Balsa 2724 openings
Tablebases: 6-man TB for both.
Adjudication: 6-man TB, -draw movenumber=50 movecount=5 score=8 -resign movecount=5 score=1000
Software:cutechess-cli
Comments: J92-330 takes the 1st place vs SF here. I think other J9x is not really stronger than the best J92 for now.
Код:
Leela:  1 thread, 1Kn/move
SF dev: 1 thread, 300Kn/move

Balsa 2724
   # PLAYER                 :  RATING  ERROR   POINTS  PLAYED   (%)  CFS(%)     W      D     L
+  1 lc0.net.J92-330.1k     :       3      6   2747.0    5448  50.4      51   985   3524   939
   2 lc0.net.J94-80.1k      :       3      6   2746.5    5448  50.4      50   988   3517   943
   3 lc0.net.J96-44.1k      :       3      5   2746.5    5448  50.4      55   978   3537   933
   4 lc0.net.J94-60.1k      :       2      5   2742.5    5448  50.3      81   981   3523   944
-  5 SF_dev20111513.300k    :       0   ----  13551.0   27240  49.7      79  4749  17604  4887
   6 lc0.net.J96-28.1k      :      -2      6   2706.5    5448  49.7     ---   955   3503   990
https://pixeldrain.com/u/qsMXwAsG
[свернуть]
Владимир001 вне форума   Ответить с цитированием
2 пользователя(ей) сказали cпасибо:
Viktor (06.12.2020), Виталий В. (06.12.2020)
Старый 07.12.2020, 03:25   #7364
Владимир001
Эксперт
 
Аватар для Владимир001
 
Регистрация: 19.12.2019
Сообщений: 7,484
Сказал(а) спасибо: 4,655
Поблагодарили 12,178 раз(а) в 5,475 сообщениях
Репутация: 259
По умолчанию Re: LCZero

Match: Lc0 vs Stockfish 12 (4T)

Развернуть для просмотра


Time control: 5s + 0.5s
Hardware: RTX 2060, Ryzen-9 4900H
Openings: noob_3moves.pgn (150000 pos.)
Stockfish 12 avx2: threads=4, hash=64, MoveOverhead=0
Lc0 26.3 cuda-fp16: threads=2, minibatch-size=60, mlh tcec-19 settings=on, move-overhead=0
jjosh settings: --cpuct=1.9 --cpuct-at-root=1.9 --cpuct-base=3500 --cpuct-base-at-root=3500 --fpu-value=0.4 --policy-softmax-temp=1.69
TBs and adj.: syzygy 5-men, resign movecount=5 score=600, draw movenumber=30 movecount=5 score=5, time forfeit disabled
Comments: J96-44 added. Very close race. I did a run with @jjosh settings from last summer too. They didn't improve on the defaults here. jjosh original setting also included --smart-pruning-factor=1.4 which I didn't use here.
Games: https://gofile.io/d/QuEfUY
Код:
# PLAYER                   :  RATING  ERROR  PLAYED    (%)   CFS     W    D    L    D(%)
1 Stockfish 12 4CPU        :     0.0   ----    8000  54.72   100  1428  5899  673  73.74
2 lc0-263-cuda-j96-28      :   -30.0    6.9    2000  45.73    59   178  1473  349  73.65
3 lc0-263-cuda-j92-330     :   -31.3    8.1    2000  45.55    52   183  1456  361  72.80
4 lc0-263-cuda-j96-44      :   -31.6    7.4    2000  45.50    91   163  1494  343  74.70
5 lc0-263-cuda-j92-330-jj  :   -39.8    8.5    2000  44.35   ---   149  1476  375  73.80
White advantage = 5.97 +/- 2.15
Draw rate (equal opponents) = 75.11 % +/- 0.48
[свернуть]
Владимир001 вне форума   Ответить с цитированием
2 пользователя(ей) сказали cпасибо:
Viktor (07.12.2020), Виталий В. (07.12.2020)
Старый 07.12.2020, 06:53   #7365
AlphaZero
2 разряд
 
Аватар для AlphaZero
 
Регистрация: 11.06.2019
Сообщений: 399
Сказал(а) спасибо: 549
Поблагодарили 121 раз(а) в 81 сообщениях
Репутация: 20
По умолчанию Re: LCZero

Господа, подскажите, кто следит за проектом Лилаштейн, 750000 сетка последняя?
AlphaZero вне форума   Ответить с цитированием
Старый 07.12.2020, 14:36   #7366
Владимир001
Эксперт
 
Аватар для Владимир001
 
Регистрация: 19.12.2019
Сообщений: 7,484
Сказал(а) спасибо: 4,655
Поблагодарили 12,178 раз(а) в 5,475 сообщениях
Репутация: 259
По умолчанию Re: LCZero

Match: T73 vs SF-12

Развернуть для просмотра


Time control: 2s + 0.2s
Hardware: Ryzen-7 3750H, GTX 1660 Ti
Openings: TCEC SuFi 10-19 (497 pos.) + Balsa_v500 (500 pos.)
Lc0 26.3 cudnn-fp16: nncache=200000, threads=1, minibatch-size=64, move-overhead=0
mlh tcec-19: moves-left-max-effect=0.2, moves-left-threshold=0, moves-left-slope=0.004, moves-left-scaled-factor=1, moves-left-quadratic-factor=0, moves-left-constant-factor=0
Stockfish 12: threads=1, hash=16, MoveOverhead=0
TBs and adj.: syzygy 5-men, draw 5 moves 5cp move 30, resign (two-sided) 5 moves 600cp, (time forfeit disabled)
Comments: 730620 added. It shows a slight improvement "within the error-bars". Interestingly too, it has a lower draw rate than any other net so far (highest number of defeats, and trails only 703810 for victories).
Games: https://gofile.io/d/41U90W
Код:
# PLAYER             : RATING  ERROR  PLAYED    (%)  CFS    W     D     L    D(%)
1 lc0-263-703810     :    1.8    8.6    1994  50.25   66   469  1066   459  53.46
2 stockfish-12-1cpu  :    0.0   ----   11964  51.90   99  3078  6262  2624  52.34
3 lc0-263-730620     :  -13.2   11.8    1994  48.17   68   462   997   535  50.00
4 lc0-263-730517     :  -16.8   10.2    1994  47.67   53   412  1077   505  54.01
5 lc0-263-730370     :  -17.3   10.9    1994  47.59   53   438  1022   534  51.25
6 lc0-263-730528     :  -17.9   10.7    1994  47.52   54   425  1045   524  52.41
7 lc0-263-730315     :  -18.6    9.6    1994  47.42  ---   418  1055   521  52.91

White advantage = 55.16 +/- 2.17
Draw rate (equal opponents) = 53.86 % +/- 0.51
[свернуть]
Владимир001 вне форума   Ответить с цитированием
2 пользователя(ей) сказали cпасибо:
Viktor (07.12.2020), Виталий В. (07.12.2020)
Старый 07.12.2020, 14:40   #7367
Владимир001
Эксперт
 
Аватар для Владимир001
 
Регистрация: 19.12.2019
Сообщений: 7,484
Сказал(а) спасибо: 4,655
Поблагодарили 12,178 раз(а) в 5,475 сообщениях
Репутация: 259
По умолчанию Re: LCZero

8-cores match: 703810 dnnl vs Stockfish-8

Развернуть для просмотра


Time control: 300s + 3s
Hardware: i9-10900kf
Openings: Balsa_Top50.pgn
Stockfish-8: threads=8, hash=1024
Lc0 26.3 dnnl: threads=8, minibatch-size=3, mlh tcec-19=on
TBs and adj.: syzygy 5-men, draw 5 moves 5cp move 30, resign (two-sided) 5 moves 600cp
Comments: Subject to the small sample size, Lc0 26.3 dnnl + 703810 seems to be close to Stockfish-8 strength on 8 fast cores (at this time control). On 4 slower cores, Lc0 was closer to SF-7 strength (https://discord.com/channels/4254194...05677572030476 ). According to benchmarks, minibatch-size = 3 was about 15% faster than minibatch-size = 1 (on 8 cores).
Games: https://gofile.io/d/wdKsRY
Код:
   # PLAYER                 :  RATING  ERROR  PLAYED   (%)   CFS    W    D    L   D(%)
   1 stockfish-8-8T         :     0.0   20.5    70    50.71   60   14   43   13  61.43
   2 lc0-263-dnnl-703810    :    -5.2   20.5    70    49.29  ---   13   43   14  61.43

White advantage = 65.87 +/- 25.99
Draw rate (equal opponents) = 64.52 % +/- 5.49
Код:
Engine                 Depth     MIDG   EARLY    ENDG   LATE
lc0-263-dnnl-703810    10.32    11.38 | 10.71 |  9.49 | 8.66
stockfish-8-8T         35.92    30.52 | 29.60 | 36.89 | 51.31
[свернуть]
Владимир001 вне форума   Ответить с цитированием
2 пользователя(ей) сказали cпасибо:
Viktor (07.12.2020), Виталий В. (07.12.2020)
Старый 07.12.2020, 14:45   #7368
Владимир001
Эксперт
 
Аватар для Владимир001
 
Регистрация: 19.12.2019
Сообщений: 7,484
Сказал(а) спасибо: 4,655
Поблагодарили 12,178 раз(а) в 5,475 сообщениях
Репутация: 259
По умолчанию Re: LCZero

SF-dev vs. LC0 24x320 nets

Развернуть для просмотра


Hardware: i5-8400 CPU @ 2.80GHz, 6 cores, 32GB, gpu RTX 2060, 6GB
Network IDs: T60B.7-105, T60B.7-135, 62948, 64255, 65162, 65297, 65373, 65374, 65726, 65762, 65830, 65889, 65939, 65988, 66053, 66103, 66148, 66234, 66275, 66314, 66353, 66381, 66430, 66471
LC0-version: v0.26.0
SF-version: SF-dev 20092708 (NNUE hybrid)
Software: Cutechess-CLI
Time control: LC0: 1,500 nodes/move, SF-dev: 300,000 nodes/move @ 4 Threads, 512MB Hash
Book: Chad's 8-ply book with 10000 positions, order=sequential
Tablebases: 6-men
Adjudication: -draw movenumber=50 movecount=5 score=8 -resign movecount=5 score=1000
Ordo: -a 0 -A "Stockfish.dev" -W -D -U "0,1,2,3,4,5,6,7,8,9,10" -s 2000 -n 1
Comment:
Код:
   # PLAYER                :  RATING  ERROR    POINTS  PLAYED   (%)  CFS(%)      W       D       L  D(%)
   1 lc0.net.65939         :    38.2    3.2   11058.0   20000    55      59   5592   10932    3476    55
   2 lc0.net.66353         :    37.7    3.2   11043.5   20000    55      54   5608   10871    3521    54
+  3 lc0.net.66471         :    37.5    3.3   11037.5   20000    55      58   5505   11065    3430    55
   4 lc0.net.66430         :    37.0    3.2   11024.5   20000    55      58   5501   11047    3452    55
   5 lc0.net.66314         :    36.5    3.3   11011.5   20000    55      60   5518   10987    3495    55
   6 lc0.net.66148         :    35.9    3.2   10994.5   20000    55      52   5498   10993    3509    55
   7 lc0.net.66381         :    35.8    3.2   10991.0   20000    55      56   5488   11006    3506    55
   8 lc0.net.65889         :    35.5    3.3   10982.0   20000    55      62   5529   10906    3565    55
   9 lc0.net.65988         :    34.8    3.3   10963.0   20000    55      50   5474   10978    3548    55
  10 lc0.net.66234         :    34.8    3.1   10962.5   20000    55      51   5495   10935    3570    55
  11 lc0.net.66103         :    34.7    3.2   10961.0   20000    55      56   5449   11024    3527    55
  12 lc0.net.65762         :    34.4    3.2   10952.0   20000    55      57   5494   10916    3590    55
  13 lc0.net.66275         :    34.0    3.3   10940.5   20000    55      58   5406   11069    3525    55
  14 lc0.net.65830         :    33.5    3.3   10927.5   20000    55      68   5457   10941    3602    55
  15 lc0.net.66053         :    32.4    3.2   10897.5   20000    54      71   5363   11069    3568    55
  16 lc0.net.65726         :    31.1    3.1   10862.0   20000    54      66   5317   11090    3593    55
  17 lc0.net.65297         :    30.2    3.2   10836.0   20000    54      59   5374   10924    3702    55
  18 lc0.net.65373         :    29.7    3.3   10822.0   20000    54      85   5360   10924    3716    55
  19 lc0.net.65162         :    27.2    3.2   10754.0   20000    54      94   5255   10998    3747    55
  20 lc0.net.65374         :    23.7    3.2   10657.5   20000    53      90   5127   11061    3812    55
  21 lc0.net.T60B.7-135    :    20.8    3.2   10576.5   20000    53      62   4994   11165    3841    56
  22 lc0.net.T60B.7-105    :    20.0    3.3   10556.0   20000    53     100   4984   11144    3872    56
  23 lc0.net.62948         :     5.9    3.2   10163.0   20000    51      84   4400   11526    4074    58
  24 lc0.net.64255         :     3.6    3.2   10100.0   20000    51      99   4463   11274    4263    56
- 25 Stockfish.dev         :     0.0   ----  219926.5  480000    46     ---  87504  264845  127651    55

White advantage = 57.68 +/- 0.34
Draw rate (equal opponents) = 57.43 % +/- 0.07
PGN:
https://pixeldrain.com/u/95yjKjMn
[свернуть]
Владимир001 вне форума   Ответить с цитированием
3 пользователя(ей) сказали cпасибо:
SergeyMZ (08.12.2020), Viktor (07.12.2020), Виталий В. (07.12.2020)
Старый 08.12.2020, 00:08   #7369
svoitsl
Гроссмейстер
 
Аватар для svoitsl
 
Регистрация: 19.04.2017
Сообщений: 4,734
Сказал(а) спасибо: 1,204
Поблагодарили 2,853 раз(а) в 1,885 сообщениях
Репутация: 159
По умолчанию Re: LCZero

Это прорыв
svoitsl вне форума   Ответить с цитированием
Старый 08.12.2020, 00:33   #7370
Maratka
Эксперт
 
Аватар для Maratka
 
Регистрация: 11.04.2017
Адрес: РФ, Крым, Севастополь.
Сообщений: 11,849
Сказал(а) спасибо: 3,311
Поблагодарили 5,952 раз(а) в 4,245 сообщениях
Репутация: 253
По умолчанию Re: LCZero

Elo три-пять в реальности то будет при контроле 60+1? ;)
Maratka вне форума   Ответить с цитированием
Старый 10.12.2020, 19:54   #7371
svoitsl
Гроссмейстер
 
Аватар для svoitsl
 
Регистрация: 19.04.2017
Сообщений: 4,734
Сказал(а) спасибо: 1,204
Поблагодарили 2,853 раз(а) в 1,885 сообщениях
Репутация: 159
По умолчанию Re: LCZero

А вот и объяснение прорыву
Цитата:
66512 - это сеть 384x30b, 66511 - сеть 320x24b. T60 получил новую инициализацию с J92-320
Цитата: Сообщение от Maratka
Elo три-пять в реальности то будет при контроле 60+1? ;)
завтра узнаем при 1'+2"
svoitsl вне форума   Ответить с цитированием
2 пользователя(ей) сказали cпасибо:
Rom77 (11.12.2020), StenR (28.12.2020)
Старый 12.12.2020, 14:46   #7372
Владимир001
Эксперт
 
Аватар для Владимир001
 
Регистрация: 19.12.2019
Сообщений: 7,484
Сказал(а) спасибо: 4,655
Поблагодарили 12,178 раз(а) в 5,475 сообщениях
Репутация: 259
По умолчанию Re: LCZero

J96-28 is ranked above 80 here

https://www.sp-cc.de/nn-vs-sf-testing.htm
Владимир001 вне форума   Ответить с цитированием
2 пользователя(ей) сказали cпасибо:
SergeyMZ (12.12.2020), Viktor (12.12.2020)
Старый 12.12.2020, 16:58   #7373
Maratka
Эксперт
 
Аватар для Maratka
 
Регистрация: 11.04.2017
Адрес: РФ, Крым, Севастополь.
Сообщений: 11,849
Сказал(а) спасибо: 3,311
Поблагодарили 5,952 раз(а) в 4,245 сообщениях
Репутация: 253
По умолчанию Re: LCZero

Цитата: Сообщение от svoitsl
завтра узнаем при 1'+2"
Это так понимаю уже известно стало?
Есть результаты теста?
Maratka вне форума   Ответить с цитированием
Старый 12.12.2020, 18:34   #7374
svoitsl
Гроссмейстер
 
Аватар для svoitsl
 
Регистрация: 19.04.2017
Сообщений: 4,734
Сказал(а) спасибо: 1,204
Поблагодарили 2,853 раз(а) в 1,885 сообщениях
Репутация: 159
По умолчанию Re: LCZero

Цитата: Сообщение от Maratka
Есть результаты теста?
возможно и есть, но вот делится автор поста с общественностью что то не хочет (пока)
svoitsl вне форума   Ответить с цитированием
Старый 12.12.2020, 19:12   #7375
Владимир001
Эксперт
 
Аватар для Владимир001
 
Регистрация: 19.12.2019
Сообщений: 7,484
Сказал(а) спасибо: 4,655
Поблагодарили 12,178 раз(а) в 5,475 сообщениях
Репутация: 259
По умолчанию Re: LCZero

https://www.phoronix.com/scan.php?pa...-compute&num=6
Владимир001 вне форума   Ответить с цитированием
Старый 12.12.2020, 19:29   #7376
Maratka
Эксперт
 
Аватар для Maratka
 
Регистрация: 11.04.2017
Адрес: РФ, Крым, Севастополь.
Сообщений: 11,849
Сказал(а) спасибо: 3,311
Поблагодарили 5,952 раз(а) в 4,245 сообщениях
Репутация: 253
По умолчанию Re: LCZero

Цитата: Сообщение от svoitsl
возможно и есть, но вот делится автор поста с общественностью что то не хочет (пока)
Не верю я в такие Elo.
Помните пару лет назад?



Глядя на график, одна мысль: SF и прочие движки были похоронены с запасом лет на десять.
А вышло, что LZ тренировался месяц или около того в один (фактически) дебют, который вызубрил наверное до эндшпиля, но ровно никак не вырос на всех остальных.
Maratka вне форума   Ответить с цитированием
Старый 17.12.2020, 05:44   #7377
Владимир001
Эксперт
 
Аватар для Владимир001
 
Регистрация: 19.12.2019
Сообщений: 7,484
Сказал(а) спасибо: 4,655
Поблагодарили 12,178 раз(а) в 5,475 сообщениях
Репутация: 259
По умолчанию Re: LCZero

NN-testrun of Lc0 0.26.3 SV-5300 net finished. New highscore of a 10x128 net:

https://www.sp-cc.de/nn-vs-sf-testing.htm
Владимир001 вне форума   Ответить с цитированием
Пользователь сказал cпасибо:
Viktor (17.12.2020)
Старый 17.12.2020, 21:27   #7378
Владимир001
Эксперт
 
Аватар для Владимир001
 
Регистрация: 19.12.2019
Сообщений: 7,484
Сказал(а) спасибо: 4,655
Поблагодарили 12,178 раз(а) в 5,475 сообщениях
Репутация: 259
По умолчанию Re: LCZero

Соберите последние 500 файлов отсюда: https://storage.lczero.org/files/training_data/test60/
Разархивируйте их. Восстановите их с помощью TB. Это должно дать вам несколько миллионов тренировочных игр.
Владимир001 вне форума   Ответить с цитированием
Старый 18.12.2020, 18:26   #7379
svoitsl
Гроссмейстер
 
Аватар для svoitsl
 
Регистрация: 19.04.2017
Сообщений: 4,734
Сказал(а) спасибо: 1,204
Поблагодарили 2,853 раз(а) в 1,885 сообщениях
Репутация: 159
По умолчанию Re: LCZero

кажется есть новые сети
Цитата:
J98 384x30b: value repair continuation with starting net J92-320. Details to come.
svoitsl вне форума   Ответить с цитированием
2 пользователя(ей) сказали cпасибо:
Alvir (18.12.2020), SergeyMZ (18.12.2020)
Старый 20.12.2020, 14:37   #7380
Владимир001
Эксперт
 
Аватар для Владимир001
 
Регистрация: 19.12.2019
Сообщений: 7,484
Сказал(а) спасибо: 4,655
Поблагодарили 12,178 раз(а) в 5,475 сообщениях
Репутация: 259
По умолчанию Re: LCZero

NN-testrun of Lc0 0.26.3 66680 finished. Impressive new highscore!

https://www.sp-cc.de/nn-vs-sf-testing.htm
Владимир001 вне форума   Ответить с цитированием
3 пользователя(ей) сказали cпасибо:
Alvir (21.12.2020), SergeyMZ (20.12.2020), Viktor (20.12.2020)
Ответ


Здесь присутствуют: 4 (пользователей: 0 , гостей: 4)
 

Ваши права в разделе
Вы не можете создавать новые темы
Вы не можете отвечать в темах
Вы не можете прикреплять вложения
Вы не можете редактировать свои сообщения

BB коды Вкл.
Смайлы Вкл.
[IMG] код Вкл.
HTML код Выкл.

Быстрый переход


Текущее время: 03:13. Часовой пояс GMT +3.


Powered by vBulletin® Version 3.8.7
Copyright ©2000 - 2024, vBulletin Solutions, Inc. Перевод: zCarot
Рейтинг@Mail.ru