|
Die Auflösung solcher analoger Systeme (meist Tauchspulenprinzip) wird eigentlich durch das thermische Rauschen beschränkt und ist damit extrem hoch. Da käme man sicher auch in den nm-Bereich. Wahrscheinlich begrenzt der DAC (DigitalAnalogKonverter) die Auflösung bzw. mit wie viel Bit die firmware intern rechnet.
__________________
|