De Handyscope HS6 meet met hoge resoluties van 14 en 16 bit. Een signaal gemeten met de Handyscope HS6 heeft 256 keer meer resolutie dan de meeste standaard oscilloscopen, die meestal een lage resolutie van 8 of 9 bit hebben. De hoge resolutie van de Handyscope HS6 precisie-oscilloscoop maakt het mogelijk signalen veel nauwkeuriger te meten, omdat de kwantiseringsfout vele malen kleiner is.
Het ingangscircuit van de Handyscope HS6 heeft een hoge nauwkeurigheid van 0.25 % van het volle schaal ingangsbereik, waar de meeste standaard oscilloscopen een nauwkeurigheid van 2 - 3 % van de volle schaal hebben.
Om een signaal dat gemeten is met de Handyscope HS6 hoge-resolutie oscilloscoop met dezelfde hoeveelheid details weer te geven als een standaard oscilloscoop, kan het scherm 256 keer groter zijn. De signalen bekijken op een 24" beeldscherm geeft een zeer gedetailleerd beeld van het signaal. De kleinste variaties zijn goed zichtbaar. Door de hoge resolutie kan nog steeds ingezoomd worden om nog meer details te onthullen.
Figuur 1 toont twee schermen, beide laten een meting van hetzelfde signaal zien. De grootte van het linker scherm komt overeen met de grootte van het scherm van een standaard oscilloscoop; bij 8 bit resolutie levert inzoomen geen extra details op. Het rechter scherm komt overeen met een gemaximaliseerd venster op een standaard PC-beeldscherm; bij 14 bit resolutie levert inzoomen nog steeds meer details op.
De hoge resolutie en hoge nauwkeurigheid van de Handyscope HS6 en de ongelimiteerde zoom-functionaliteit van de Multi Channel oscilloscoop-software maken het mogelijk in te zoomen tot mV-niveau. Figuur 2 toont een 2 mV sinus-signaal dat gemeten is in het 200 mV ingangsbereik, waarna ingezoomd is om het signaal op een 8 mV volle schaal te bekijken.
Uiterst nauwkeurige 1 ppm oscilloscoop-tijdbasis
Met een tijdbasisnauwkeurigheid van 1 ppm kunnen frequenties en tijdsverschillen zeer nauwkeurig worden gemeten. De tijdbasis van de Handyscope HS6 is 25 tot 100 maal beter dan die van vergelijkbare instrumenten van de concurrentie.
Koppelen van meer instrumenten om een groot gecombineerd instrument te maken heeft geen invloed op de nauwkeurigheid van de tijdbasis. Het tijdverschil tussen de gekoppelde instrumenten is 0 ppm.