Файл: Обработка данных задания Построение градуировочной зависимости.docx

Скачать файл (0,08Мб)

Заказать решение

ВУЗ: Не указан

Категория: Не указан

Дисциплина: Не указана

Добавлен: 09.11.2023

Просмотров: 32

Скачиваний: 2

ВНИМАНИЕ! Если данный файл нарушает Ваши авторские права, то обязательно сообщите нам.

Обработка данных задания
1. Построение градуировочной зависимости

Линейная градуировочная зависимость должна удовлетворять требованиям к линейности, приведенным в ОФС “Валидация аналитических методик”. Коэффициент корреляции линейной зависимости должен быть больше или равен 0,99. Из имеющихся данных выберем такие точки, которые будут обеспечивать максимальную линейность функции.

Таблица 1: Исходные данные для градуировочной зависимости.

Концентрация, нг/мл	Площадь пика, у.е.	Время удерживания, мин
Градуировочные растворы
1	456317	7.66
1	594492	7.61
1	586845	7.65
5	2633507	7.61
5	3086143	7.63
5	2875463	7.63
10	5713463	7.65
10	6549797	7.65
10	5878546	7.65
50	30238656	7.65
50	35222598	7.62
50	34578892	7.65
100	61184178	7.64
100	67392997	7.66
100	66587545	7.64
500	294306804	7.64
500	305293871	7.64
500	296584162	7.66
1000	579393299	7.66
1000	600507794	7.61
1000	587998875	7.65
5000	2481808295	7.61
5000	2529380513	7.63
5000	2487895632	7.66
10000	4519803296	7.61
10000	4422293382	7.65
10000	4458785254	7.61

Рисунок 1: Градуировочная зависимость.

Для проведения дальнейшей обработки эксперимента целесообразно разбить полученную зависимость на три диапазона для более точного описания функции.

Рисунок 2: Градуировочная зависимость от 1 до 100 нг/мл.

Рисунок 3: Градуировочная зависимость от 100 до 500 нг/мл.

Рисунок 4: Градуировочная зависимость от 500 до 10000 нг/мл.

Расчет коэффициентов извлечения

По градуировочному графику определим концентрацию ЛП в модельных образцах.

Таблица 2: Расчет концентрации ЛП в модельных образцах.

Модельные образцы				C_гр, нг/мл
U-50ng/ml	D&S	13036497	7.67	19,85439
Pl-50ng/ml	D&S	15144845	7.63	22,94010
U-50ng/ml	2Extr	571742665	7.65	837,55946
Pl-50ng/ml	2Extr	180254741	7.65	264,58984

Далее рассчитаем коэффициент извлечения для различных способов пробоподготовки по формуле:

,

где С_гр- концентрация, установленная из градуировочного графика; V_ал- объём конечной аликвоты; V_пр- объём образца, отобранный для анализа; K_извл- коэффициент извлечения целевого соединения из матрицы образца.

Таблица 3: Расчет коэффициента извлечения.

C_гр, нг/мл	V _ал, мл	V_пр, мл	C_пр, нг/ мл	K_извл
19,85439	0,23	0,1	50	3,97088
22,94010	0,23	0,1	50	4,58802
837,55946	0,1	5	50	3,35024
264,58984	0,1	4	50	1,32295

Наибольшие коэффициенты извлечения соответствуют методу пробоподготовки Dilute&Shute, поэтому далее будем рассматривать только его.

Расчет содержания ЛП в исследуемых биопробах, подготовленных методом D&S.

По аналитическому сигналу с помощью градуировочной зависимости определим концентрацию ЛП, далее с помощью C_гр и K_извл найдем концентрацию ЛП в биопробе.

Таблица 4: Расчет концентрации ЛП в моче.

	I серия				II серия
Время, ч	АС	Время уд., мин	Конц. ЛП, нг/мл	Конц. ЛП в биопробе, нг/мл	АС	Время уд., мин	Конц. ЛП, нг/мл	Конц. ЛП в биопробе, нг/мл
0	NF	NF	0	0	NF	NF	0	0
2	891730872	7.65	1305,88431	756,39040	19583993	7.63	29,43710	17,05047
6	269773952	7.62	395,60739	229,14253	3380022	7.65	5,72147	3,31397
8	105339154	7.64	154,94570	89,74719	1161802	7.66	2,47495	1,43353
24	NF	NF	0,77458	0,44865	85566,38	7.63	0,89981	0,52118
48	NF	NF	0,77458	0,44865	NF	NF	0,77458	0,44865
72					NF	NF	0,77458	0,44865

Таблица 5: Расчет концентрации ЛП в плазме крови.

	I серия					II серия
Время, ч	АС	Время уд., мин	Конц. ЛП, нг/мл	Конц. ЛП в биопробе, нг/мл	АС		Время уд., мин	Конц. ЛП, нг/мл	Конц. ЛП в биопробе, нг/мл
0	NF	NF	0	0	NF		NF	0	0
0,5	3794382212	7.65	5554,11507	3217,03791	6784609		7.64	10,70432	6,20012
1	2419298036	7.64	3541,58439	2051,34591	29758528		7.65	44,32824	25,67567
1,5	1662787000	7.64	2434,37822	1410,03327	25405666		7.65	37,95752	21,98564
2	1145153922	7.65	1676,78645	971,22323	17000789		7.65	25,65640	14,86063
3	459708496	7.63	673,58972	390,15462	7188733		7.65	11,29578	6,54271
4	240177714	7.67	352,29125	204,05308	3470648		7.66	5,85411	3,39080
6	98147064	7.65	144,41958	83,65028	1445310		7.63	2,88989	1,67387
8	82037174	7.63	120,84165	69,99354	1037087		7.65	2,29242	1,32781
24	NF	NF	0,77458	0,44865	NF		NF	0,77458	0,44865
48	NF	NF	0,77458	0,44865	NF		NF	0,77458	0,44865
								0,77458	0,44865

Далее, зная концентрации ЛП в биопробах, построим графики распределения целевого соединения в биопробах в течение эксперимента.

Рисунок 5: График распределения ЛП в моче в течение времени эксперимента.

Рисунок 6: График распределения ЛП в плазме крови в течение времени эксперимента.

2. Статистическая обработка.

2.1. Статистическая обработка данных градуировочной зависимости

Проверка Q-критерия

Проверим данные площадей пиков для каждой концентрации на грубые промахи с помощью Q критерия. Q_табл(P=0.95;n=3)=0.97.

Таблица 6: Расчет Q-критерия.

Концентрация, нг/мл	Площадь пика, у.е.	Q_эксп
1	456317	0,0585851
1	594492
1	586845
5	2633507	0,465451
5	3086143
5	2875463
10	5713463	0,802611
10	6549797
10	5878546
50	30238656	0,129156
50	35222598
50	34578892
100	61184178	0,129727
100	67392997
100	66587545
500	294306804	0,792713
500	305293299
500	296584162
1000	579393299	0,592433
1000	600507794
1000	587998875
5000	2481808295	0,87204
5000	2529380513
5000	2487895632
10000	4519803296	0,374238
10000	4422293382
10000	4458785254