univerzita pardubice3.3 porovnání výsledků ze dvou použitých kalibračních modelů 3.3.1...
TRANSCRIPT
UNIVERZITA PARDUBICE
Fakulta chemicko-technologická
Katedra analytické chemie
Vedoucí studia a odborný garant:
Prof. RNDr. Milan Meloun, DrSc.
Vyučující:
Prof. RNDr. Milan Meloun, DrSc.
Autor práce:
ANDRII ZAIKA
15. LICENČNÍ STUDIUM „GALILEO“: STATISTICKÉ ZPRACOVÁNÍ DAT 2015 – 2017
2
OBSAH
Úloha 1. Lineární kalibrace …………………………………………………....
1.1 Předběžná analýza dat………………………………………………………....
1.2 Statistické testy a charakteristiky regrese…………………………………….
1.3 Kalibrace………………………………………………………………………….
1.3.1 Grafický výstup programu ADSTAT………………………………………………………..
1.3.2 Kalibrační meze a tabulka…………………………………………………………………..
Úloha 2. Nelineární kalibrace……………………………………………
2.1 Kalibrační meze a tabulka – kvadratický spline bez uzlových bodů……….
2.2 Grafický výstup programu ADSTAT…………………………………………...
2.3 Parametry kalibračního modelu – kvadratický spline bez uzlových bodů…
2.4 Kalibrační meze a tabulka – kvadratický spline s 4 uzlovými body………..
2.5 Grafický výstup programu QC-Expert…………………………………………
2.6 Závěr……………………………………………………………………………...
Úloha 3. Rozlišení mezi lineární a nelineární kalibrací……………….
3.1 Statistická analýza – lineární kalibrace……………………………………….
3.2 Statistická analýza – nelineární kalibrace…………………………………….
3.3 Porovnání výsledků ze dvou Použitých kalibračních modelů………………
3.3.1 Grafické porovnání…………………………………………………………………………...
3.3.2 Statistické porovnání………………………………………………………………………...
3
3
4
5
5
6
7
7
8
8
8
9
10
11
11
12
13
13
15
15. LICENČNÍ STUDIUM „GALILEO“: STATISTICKÉ ZPRACOVÁNÍ DAT 2015 – 2017
3
Úloha 1. Lineární kalibrace Zadání
Při stanovení množství fosforečnanů ve vzorcích půdy pro archeologickou praxi (chemické sloučeniny obsahující fosforečnanový anion PO4
3-, který vzniká odtržením vodíků z kyseliny trihydrogenfosforečné) metodou absorbční spektroskopie byla proměřovaná kalibrační závislost absorbance y na koncentraci x. Jaké jsou míry přesnosti kalibrace?
Data: Koncentrace PO43- x [mg * dm-3], absorbance y
x y 1 0,197
2 0,244
4 0,339
6 0,460
8 0,555
10 0,630
1.1 Předběžná analýza dat
Obr. 1 Pregibonův graf Obr. 2 Williamsův graf
Obr. 3 McCulloh-Meeterův graf Obr. 4 L-R graf
15. LICENČNÍ STUDIUM „GALILEO“: STATISTICKÉ ZPRACOVÁNÍ DAT 2015 – 2017
4
Závěr ke grafickému výstupu programu ADSTAT: Grafická analýza daných vykazuje jenom na dvou grafech jeden odlehlý bod (č. 6). Vzhledem k tomu, že naměřených bodů je málo, tak nic se odstraňovat nebude.
1.2 Statistické testy a charakteristiky regrese
15. LICENČNÍ STUDIUM „GALILEO“: STATISTICKÉ ZPRACOVÁNÍ DAT 2015 – 2017
5
Závěr předběžné analýzy dat Z grafických diagnostik plyne, že žádný bod se odstraňovat ne bude, a navržený model je významný.
1.3 Kalibrace 1.3.1 Grafický výstup programu ADSTAT
Obr. 5 Kalibrační přímka pro stanovení množství fosforečnanů ve vzorcích půdy metodou absorbční spektroskopie.
15. LICENČNÍ STUDIUM „GALILEO“: STATISTICKÉ ZPRACOVÁNÍ DAT 2015 – 2017
6
1.3.2 Kalibrační meze a tabulka
Závěr Kalibrační závislost má tvar y = 0,0495(±0,00153)x + 0,148(±0,00931) Přesnost použité metody vyjádřena jako mez stanovitelnosti ys je 0,1516 (tomu odpovídá hodnota koncentrace fosforečnanů mg * dm-3). Limita detekce yd stanoví 0,1966 a kritická úroveň yc je 0,1742. S 95% statistickou jistotou lze tvrdit, že koncentrace fosforečnanů u neznámých vzorků vykazujících signály 0,168, 0,372 a 0,487 leží respektive v intervalech (nestanovitelné – měřená hodnota je menši než limita detekce), (3,790; 5,244) a (6,101; 7,578) mg * dm-3.
15. LICENČNÍ STUDIUM „GALILEO“: STATISTICKÉ ZPRACOVÁNÍ DAT 2015 – 2017
7
Úloha 2. Nelineární kalibrace
Zadání
Naměřené kalibrační hodnoty jsou uvedeny tak, že hodnoty x představují známé obsahy kalibrační
látky – albuminu, v gramech na litr, a hodnoty y odpovídají jejich naměřené absorbance.
Z naměřené závislosti určete, jaká koncentrace odpovídá absorbanci 0,061, 0,479 a 0,642.
Data: Koncentrace albuminu x [g / L], absorbance y
x y x y 0,00 0,000 0,50 0,515
0,05 0,050 0,60 0,568
0,10 0,114 0,70 0,616
0,20 0,218 0,80 0,651
0,30 0,320 0,90 0,670
0,40 0,415 1,00 0,683
2.1 Kalibrační meze a tabulka – kvadratický spline bez uzlových bodů Analýza reziduí
Reziduální součet čtverců : 0,0008986
Půměrné absolutní reziduum : 0,0069483
Korelační koeficient : 0,9993653
Kalibrační meze
Metoda Yc Yd Yq Xc Xd Xq
Metoda podle ISO 11843-2 0,15955 -0,51747 0,33251 3,34130 2,40372 6,68261
Přímá metoda analytu 0,00749 0,02610 0,04376 0,01564 0,02976 0,04335
Přímá metoda signálu, IUPAC 0,00749 0,02715 0,04570 0,01564 0,03057 0,04486
Kombinovaná metoda Ebel,Kamm
0,00631
0,02604
0,04370
0,01475
0,02972
0,04331
Metoda K*Sigma z regrese 0,00749 0,02840 0,04932 0,01564 0,03153 0,04767
Metoda K*Sigma, ACS 0,01656 0,04654 0,07651 0,02250 0,04550 0,06906
Kalibrační tabulka
Číslo vzorku
Zpětný odhad
Spodní mez
Horní mez
Nepřímý odhad
Naměřené hodnoty
1 0,05680 0,04301 0,06948 0 0,061
2 0,47323 0,45367 0,49361 0 0,479
3 0,77632 0,74068 0,82054 0 0,642
15. LICENČNÍ STUDIUM „GALILEO“: STATISTICKÉ ZPRACOVÁNÍ DAT 2015 – 2017
8
2.2 Grafický výstup programu ADSTAT
Obr. 6 Kvadratický spline bez uzlových bodů Obr. 7 Kvadratický spline s 1 uzlovým bodem
Obr. 8 Kvadratický spline s 4 uzlovými body 2.3 Parametry kalibračního modelu – kvadratický spline bez uzlových bodů
Parametr Odhad Sm. odchylka Spodní mez Horní mez
Abs. -0,01342 0,00647 -0,02806 0,00122
X 1,34704 0,03272 1,27301 1,42106
X2 -0,64764 0,03258 -0,72135 -0,57392
2.4 Kalibrační meze a tabulka – kvadratický spline s 4 uzlovými body
Porovnací tabulka analýzy reziduí
Uzlové body RSČ Me Mer, % σe XD 0 8,986E-04 6,9483E-03 10,176 9,9924E-03 2,1078E-02
1 4,893E-04 4,9405E-03 9,979 7,8203E-03 2,0349E-02
2 2,107E-04 3,1021E-03 9,930 5,4868E-03 1,7915E-02
3 2,392E-04 3,3513E-03 9,879 6,3137E-03 2,1729E-02
4 1,285E-04 2,7103E-03 9,750 5,0694E-03 1,8108E-02
5 1,815E-04 2,9851E-03 9,809 6,7360E-03 2,5880E-02
15. LICENČNÍ STUDIUM „GALILEO“: STATISTICKÉ ZPRACOVÁNÍ DAT 2015 – 2017
9
Kalibrační tabulka
Číslo vzorku
Zpětný odhad
Spodní mez
Horní mez
Naměřené hodnoty
1 0,05608 0,04957 0,06225 0,061
2 0,47200 0,45546 0,48854 0,479
3 0,77520 0,74715 0,80321 0,642
2.5 Grafický výstup programu QC-Expert
Obr. 9 Kalibrační křivka
Obr. 10 Graf reziduí
15. LICENČNÍ STUDIUM „GALILEO“: STATISTICKÉ ZPRACOVÁNÍ DAT 2015 – 2017
10
Obr. 11 Graf absolutních reziduí
2.6 Závěr Za nejlepší kalibrační model se považuje takový, který má nejnižší limitu detekce a rovněž nejnižší odhad směrodatné odchylky reziduí při nejnižším počtu uzlových bodů. V daném případě takové proložení představuje kvadratický spline s 2 uzlovými body a taky s 4 uzlovými body. Na základě dalších statistik analýzy reziduí byl vybrán model s 4 uzlovými body. Kalibrační závislost vystihuje kalibrační nelineární křivka Y = a*x2 + b*x +c S 95% statistickou jistotou lze tvrdit, že pro absorbance 0,061, 0,479 a 0,642 budou odpovídat koncentrací v intervalu respektive (0,0496; 0,0623), (0,4555; 0,4885) a (0,7472; 0,8032) gram na litr.
15. LICENČNÍ STUDIUM „GALILEO“: STATISTICKÉ ZPRACOVÁNÍ DAT 2015 – 2017
11
Úloha 3. Rozlišení mezi lineární a nelineární kalibrací
Zadání
Naměřené kalibrační hodnoty jsou uvedeny tak, že hodnoty x představují známé obsahy kalibrační
látky – albuminu, v gramech na litr, a hodnoty y odpovídají jejich naměřené absorbance.
Z naměřené závislosti určete, jaká koncentrace odpovídá absorbanci 0,078, 0,384, 0,500 a 0,616.
Data: Koncentrace albuminu x [g / L], absorbance y
x y x y 0,00 0,000 0,50 0,515
0,05 0,050 0,60 0,568
0,10 0,114 0,70 0,616
0,20 0,218 0,80 0,651
0,30 0,320 0,90 0,670
0,40 0,415 1,00 0,683
3.1 Statistická analýza – lineární kalibrace
Počet dat: 12
Hladina významnosti : 0,05
Volba kalibračního modelu : Manuální
Použitý kalibrační model : Lineární
Vhodnost použitého modelu : Nevyhovuje
Použita vážená regrese : Ne Parametry kalibračního modelu
Parametr Odhad Sm. odchylka Spodní mez Horní mez
Abs. 0,06834 0,03174 -0,00238 0,13906
X 0,72070 0,05602 0,59589 0,84551
Zvolený faktor K : 1,95996
Vypočítaná sm. odch. slepého signálu : 0,06352 Kalibrační meze
Metoda Yc Yd Yq Xc Xd Xq
Metoda podle ISO 11843-2 0,48856 0,58149 0,90877 0,58307 0,71202 1,16613
Přímá metoda analytu 0,16370 0,23161 0,29233 0,13231 0,22654 0,31079
Přímá metoda signálu, IUPAC 0,16370 0,24195 0,30848 0,13231 0,24089 0,33319 Kombinovaná metoda Ebel,Kamm 0,14905 0,22977 0,29065 0,11199 0,22398 0,30846
Metoda K*Sigma z regrese 0,16370 0,25906 0,35442 0,13231 0,26463 0,39694
Metoda K*Sigma, ACS 0,19283 0,31732 0,44181 0,17273 0,34546 0,51820
15. LICENČNÍ STUDIUM „GALILEO“: STATISTICKÉ ZPRACOVÁNÍ DAT 2015 – 2017
12
Kalibrační tabulka
Číslo vzorku
Zpětný odhad
Spodní mez
Horní mez
Nepřímý odhad
Naměřené hodnoty
1 0,01340 Nestanovitelné 0,50487 0,078 2 0,43799 0,35773 0,51541 0,73697 0,384 3 0,59894 0,52128 0,69234 0,81494 0,500 4 0,75990 0,66946 0,88464 0,89013 0,616
3.2 Statistická analýza – nelineární kalibrace
Počet dat: 12
Hladina významnosti : 0,05
Volba kalibračního modelu : Manuální
Použitý kalibrační model : Kvadratický
Vhodnost použitého modelu : Vyhovuje
Použita vážená regrese : Ne Parametry kalibračního modelu
Parametr Odhad Sm. odchylka Spodní mez Horní mez
Abs. -0,01342 0,00647 -0,02806 0,00122
X 1,34704 0,03272 1,27301 1,42106
X2 -0,64764 0,03258 -0,72135 -0,57392
Zvolený faktor K : 1,95996
Vypočítaná sm. odch. slepého signálu : 0,00999 Kalibrační meze
Metoda Yc Yd Yq Xc Xd Xq
Metoda podle ISO 11843-2 0,15955 -0,51747 0,33251 3,34130 2,40372 6,68261
Přímá metoda analytu 0,00749 0,02610 0,04376 0,01564 0,02976 0,04335
Přímá metoda signálu, IUPAC 0,00749 0,02715 0,04570 0,01564 0,03057 0,04486 Kombinovaná metoda Ebel,Kamm 0,00631 0,02604 0,04370 0,01475 0,02972 0,04331
Metoda K*Sigma z regrese 0,00749 0,02840 0,04932 0,01564 0,03153 0,04767
Metoda K*Sigma, ACS 0,00617 0,02575 0,04533 0,01464 0,02950 0,04457 Kalibrační tabulka
Číslo vzorku
Zpětný odhad
Spodní mez
Horní mez
Nepřímý odhad
Naměřené hodnoty
1 0,07024 0,05697 0,08254 0 0,078 2 0,35595 0,34083 0,37185 0 0,384 3 0,50259 0,48190 0,52407 0 0,500 4 0,70883 0,67903 0,74064 0 0,616
15. LICENČNÍ STUDIUM „GALILEO“: STATISTICKÉ ZPRACOVÁNÍ DAT 2015 – 2017
13
3.3 Porovnání výsledků ze dvou Použitých kalibračních modelů 3.3.1 Grafické porovnání
Obr. 12 Kalibrační přímka – lineární kalibrační model
Obr. 13 Kalibrační křivka – nelineární kalibrační model
Kalibrační křivky znázorňují i odhady naměřených veličin. Vodorovné přerušované přímky představují naměřenou hodnotu Y a svislé přerušované přímky jsou zpětné odhady.
15. LICENČNÍ STUDIUM „GALILEO“: STATISTICKÉ ZPRACOVÁNÍ DAT 2015 – 2017
14
Obr. 14 Graf rezidují – lineární kalibrační model
Obr. 15 Graf rezidují – nelineární kalibrační model
15. LICENČNÍ STUDIUM „GALILEO“: STATISTICKÉ ZPRACOVÁNÍ DAT 2015 – 2017
15
3.3.2 Statistické porovnání Analýza reziduí
Pro lineární model Pro nelineární model
Reziduální součet čtverců : 0,04034 0,00090
Průměrné absolutní reziduum : 0,05036 0,00695
Korelační koeficient : 0,97110 0,99937 Kalibrační hodnoty
Naměřené hodnoty Zpětný odhad
(g / L) Spodní mez
(g / L) Horní mez
(g / L)
Lin
eá
rní
mo
de
l
0,078 0,01340 Nestanovitelné
0,384 0,43799 0,35773 0,51541
0,500 0,59894 0,52128 0,69234
0,616 0,75990 0,66946 0,88464
Neli
ne
árn
í
mo
de
l
0,078 0,07024 0,05697 0,08254
0,384 0,35595 0,34083 0,37185
0,500 0,50259 0,48190 0,52407
0,616 0,70883 0,67903 0,74064
Závěr: Kalibrační závislost je nelineární. Lineární model kalibrační závislosti byl zamítnut. Lineární model poskytuje výsledky se širším intervalem spolehlivosti.