Tablica wartości R0 = No/Nmax w funkcji v/σ dla trójpoziomowego autokorelatora w zakresie od 0 (równoważne próbkowaniu jednobitowemu) do 4.00 (tzn. próg czterokrotnie wyższy od wartości skutecznej sygnału wejściowego) obliczone za pomocą pakietu Mathematica. Optymalna wartość ustawienia poziomu v wynosi 0.62σ.


 v/σ     No/Nmax
0.00 1.000000   
0.01 0.992021   
0.02 0.984043   
0.03 0.976067   
0.04 0.968093   
0.05 0.960122   
0.06 0.952156   
0.07 0.944194   
0.08 0.936237   
0.09 0.928287   
0.10 0.920344   
0.11 0.912409   
0.12 0.904483   
0.13 0.896566   
0.14 0.888660   
0.15 0.880765   
0.16 0.872881   
0.17 0.865010   
0.18 0.857153   
0.19 0.849309   
0.20 0.841481   
0.21 0.833668   
0.22 0.825871   
0.23 0.818092   
0.24 0.810330   
0.25 0.802587   
0.26 0.794864   
0.27 0.787160   
0.28 0.779478   
0.29 0.771816   
0.30 0.764177   
0.31 0.756561   
0.32 0.748968   
0.33 0.741400   
0.34 0.733857   
0.35 0.726339   
0.36 0.718847   
0.37 0.711382   
0.38 0.703945   
0.39 0.696537   
0.40 0.689157   
0.41 0.681806   
0.42 0.674485   
0.43 0.667196   
0.44 0.659937   
0.45 0.652710   
0.46 0.645516   
0.47 0.638355   
0.48 0.631227   
0.49 0.624134   
0.50 0.617075   
0.51 0.610051   
0.52 0.603064   
0.53 0.596112   
0.54 0.589197   
0.55 0.582319   
0.56 0.575479   
0.57 0.568678   
0.58 0.561915   
0.59 0.555191   
0.60 0.548506   
0.61 0.541862   
0.62 0.535258   
0.63 0.528695   
0.64 0.522173   
0.65 0.515692   
0.66 0.509254   
0.67 0.502858   
0.68 0.496504   
0.69 0.490194   
0.70 0.483927   
0.71 0.477704   
0.72 0.471525   
0.73 0.465390   
0.74 0.459300   
0.75 0.453255   
0.76 0.447255   
0.77 0.441300   
0.78 0.435391   
0.79 0.429528   
0.80 0.423711   
0.81 0.417940   
0.82 0.412216   
0.83 0.406539   
0.84 0.400908   
0.85 0.395325   
0.86 0.389789   
0.87 0.384300   
0.88 0.378859   
0.89 0.373466   
0.90 0.368120   
0.91 0.362823   
0.92 0.357573   
0.93 0.352371   
0.94 0.347218   
0.95 0.342112   
0.96 0.337055   
0.97 0.332046   
0.98 0.327086   
0.99 0.322174   
1.00 0.317311   
 v/σ     No/Nmax
1.00 0.317311    
1.01 0.312495    
1.02 0.307728  
1.03 0.303010
1.04 0.298340    
1.05 0.293718    
1.06 0.289145    
1.07 0.284619    
1.08 0.280142    
1.09 0.275713    
1.10 0.271332    
1.11 0.266999    
1.12 0.262714    
1.13 0.258476    
1.14 0.254286    
1.15 0.250144    
1.16 0.246049    
1.17 0.242001    
1.18 0.238000    
1.19 0.234046    
1.20 0.230139    
1.21 0.226279    
1.22 0.222465    
1.23 0.218697    
1.24 0.214975    
1.25 0.211300    
1.26 0.207669    
1.27 0.204085    
1.28 0.200545    
1.29 0.197051    
1.30 0.193601    
1.31 0.190196    
1.32 0.186835    
1.33 0.183518    
1.34 0.180245    
1.35 0.177016    
1.36 0.173830    
1.37 0.170687    
1.38 0.167587    
1.39 0.164529    
1.40 0.161513    
1.41 0.158540    
1.42 0.155608    
1.43 0.152717    
1.44 0.149867    
1.45 0.147059    
1.46 0.144290    
1.47 0.141562    
1.48 0.138873    
1.49 0.136224    
1.50 0.133614    
1.51 0.131043    
1.52 0.128511    
1.53 0.126017    
1.54 0.123560    
1.55 0.121142    
1.56 0.118760    
1.57 0.116415    
1.58 0.114107    
1.59 0.111835    
1.60 0.109599    
1.61 0.107398    
1.62 0.105232    
1.63 0.103101    
1.64 0.101005    
1.65 0.0989429   
1.66 0.0969145   
1.67 0.0949194   
1.68 0.0929573   
1.69 0.0910280   
1.70 0.0891309   
1.71 0.0872659   
1.72 0.0854324   
1.73 0.0836303   
1.74 0.0818590   
1.75 0.0801183   
1.76 0.0784078   
1.77 0.0767271   
1.78 0.0750760   
1.79 0.0734539   
1.80 0.0718606   
1.81 0.0702958   
1.82 0.0687590   
1.83 0.0672499   
1.84 0.0657682   
1.85 0.0643135   
1.86 0.0628855   
1.87 0.0614838   
1.88 0.0601081   
1.89 0.0587580   
1.90 0.0574331   
1.91 0.0561332   
1.92 0.0548579   
1.93 0.0536068   
1.94 0.0523797   
1.95 0.0511761   
1.96 0.0499958   
1.97 0.0488384   
1.98 0.0477035   
1.99 0.0465909   
2.00 0.0455003   
 v/σ     No/Nmax
2.00 0.0455003    
2.01 0.0444312    
2.02 0.0433834    
2.03 0.0423565    
2.04 0.0413503    
2.05 0.0403644    
2.06 0.0393985    
2.07 0.0384523    
2.08 0.0375255    
2.09 0.0366178    
2.10 0.0357288    
2.11 0.0348584    
2.12 0.0340060    
2.13 0.0331716    
2.14 0.0323548    
2.15 0.0315552    
2.16 0.0307727    
2.17 0.0300068    
2.18 0.0292575    
2.19 0.0285242    
2.20 0.0278069    
2.21 0.0271052    
2.22 0.0264188    
2.23 0.0257474    
2.24 0.0250909    
2.25 0.0244489    
2.26 0.0238213    
2.27 0.0232076    
2.28 0.0226077    
2.29 0.0220213    
2.30 0.0214482    
2.31 0.0208882    
2.32 0.0203409    
2.33 0.0198062    
2.34 0.0192837    
2.35 0.0187734    
2.36 0.0182749    
2.37 0.0177881    
2.38 0.0173126    
2.39 0.0168484    
2.40 0.0163951    
2.41 0.0159525    
2.42 0.0155205    
2.43 0.0150988    
2.44 0.0146873    
2.45 0.0142856    
2.46 0.0138937    
2.47 0.0135113    
2.48 0.0131382    
2.49 0.0127743    
2.50 0.0124193    
2.51 0.0120731    
2.52 0.0117355    
2.53 0.0114063    
2.54 0.0110852    
2.55 0.0107723    
2.56 0.0104672    
2.57 0.0101699    
2.58 0.00988003   
2.59 0.00959759   
2.60 0.00932238   
2.61 0.00905422   
2.62 0.00879298   
2.63 0.00853849   
2.64 0.00829060   
2.65 0.00804918   
2.66 0.00781407   
2.67 0.00758512   
2.68 0.00736222   
2.69 0.00714520   
2.70 0.00693395   
2.71 0.00672832   
2.72 0.00652819   
2.73 0.00633343   
2.74 0.00614392   
2.75 0.00595953   
2.76 0.00578014   
2.77 0.00560563   
2.78 0.00543589   
2.79 0.00527080   
2.80 0.00511026   
2.81 0.00495415   
2.82 0.00480236   
2.83 0.00465480   
2.84 0.00451135   
2.85 0.00437192   
2.86 0.00423641   
2.87 0.00410472   
2.88 0.00397675   
2.89 0.00385242   
2.90 0.00373163   
2.91 0.00361429   
2.92 0.00350031   
2.93 0.00338962   
2.94 0.00328212   
2.95 0.00317774   
2.96 0.00307639   
2.97 0.00297800   
2.98 0.00288248   
2.99 0.00278977   
3.00 0.00269980   
 v/σ     No/Nmax
3.00 0.00269980 
3.01 0.00261248 
3.02 0.00252775 
3.03 0.00244554 
3.04 0.00236578 
3.05 0.00228841 
3.06 0.00221337 
3.07 0.00214059 
3.08 0.00207001 
3.09 0.00200156 
3.10 0.00193521 
3.11 0.00187087 
3.12 0.00180851 
3.13 0.00174806 
3.14 0.00168948 
3.15 0.00163270 
3.16 0.00157769 
3.17 0.00152439 
3.18 0.00147275 
3.19 0.00142273 
3.20 0.00137428 
3.21 0.00132735 
3.22 0.00128191 
3.23 0.00123790 
3.24 0.00119530 
3.25 0.00115405 
3.26 0.00111412 
3.27 0.00107547 
3.28 0.00103807 
3.29 0.00100187 
3.30 0.000966848
3.31 0.000932960
3.32 0.000900174
3.33 0.000868460
3.34 0.000837784
3.35 0.000808116
3.36 0.000779425
3.37 0.000751682
3.38 0.000724858
3.39 0.000698926
3.40 0.000673859
3.41 0.000649629
3.42 0.000626211
3.43 0.000603581
3.44 0.000581714
3.45 0.000560587
3.46 0.000540175
3.47 0.000520458
3.48 0.000501414
3.49 0.000483021
3.50 0.000465258
3.51 0.000448107
3.52 0.000431547
3.53 0.000415560
3.54 0.000400127
3.55 0.000385231
3.56 0.000370855
3.57 0.000356981
3.58 0.000343594
3.59 0.000330678
3.60 0.000318217
3.61 0.000306197
3.62 0.000294603
3.63 0.000283421
3.64 0.000272638
3.65 0.000262240
3.66 0.000252215
3.67 0.000242550
3.68 0.000233234
3.69 0.000224254
3.70 0.000215599
3.71 0.000207259
3.72 0.000199223
3.73 0.000191480
3.74 0.000184020
3.75 0.000176835
3.76 0.000169913
3.77 0.000163248
3.78 0.000156828
3.79 0.000150647
3.80 0.000144696
3.81 0.000138967
3.82 0.000133452
3.83 0.000128143
3.84 0.000123034
3.85 0.000118118
3.86 0.000113387
3.87 0.000108835
3.88 0.000104456
3.89 0.000100244
3.90 0.000096193
3.91 0.000092296
3.92 0.000088549
3.93 0.000084946
3.94 0.000081482
3.95 0.000078151
3.96 0.000074950
3.97 0.000071873
3.98 0.000068915
3.99 0.000066073
4.00 0.000063343