Обґрунтування методу апроксимації експериментальних даних.

Abstract

UKR : Мета. Провести порівняння лінійного і криволінійного методів апроксимації експериментальних даних з наданням рекомендацій щодо їхнього використання для забезпечення достовірності та адекватності отриманих результатів. Методи. Аналіз лінійного і криволінійного методів апроксимації експериментальних даних здійснено з використанням основ вищої математики, теорії математичної статистики випадкових процесів, ре- гресійного та кореляційного аналізів. Розрахунки виконано у програм- ному середовищі Microsoft Excel версії 2016. Результати. Досягнення поставленої мети здійснено на прикладі аналізу залежності твердості ґрунту від його щільності. Для використаних експериментальних даних тісноту їх лінійного зв’язку оцінено коефіцієнтом кореляції, а криволі- нійного — кореляційним відношенням. Подальше порівняння цих ста- тистичних показників через F-критерій показало, що фактичне значення цього критерію (1,52) є значно меншим за табличне (19,40). З ураху- ванням цього, попри менше значення коефіцієнта кореляції (0,77) у по- рівнянні з кореляційним відношенням (0,84), функціональна залежність між щільністю і твердістю ґрунту на статистичному рівні значущості 0,05 виявилася лінійною. Висновки. Отримання адекватного наукового резуль- тату при обробленні експериментальних даних залежить від правильного вибору кореляційного зв’язку між аргументом і функцією досліджуваного стохастичного процесу. Вид такого зв’язку (лінійний чи криволінійний) на заданому рівні ймовірності має базуватися на порівнянні коефіцієнта кореляції і кореляційного відношення дослідних даних через такий статистичний показник, як F-критерій. За меншого значення останнього у порівнянні з табличним кореляційний зв’язок між аргументом і функцією випадкового процесу приймається лінійним, у протилежному випадку — криволінійним. //////// ENG: Goal. To carry out a comparison of linear and curvilinear methods of approximation of experimental data with the provision of recom- mendations for their use to ensure the reliability and adequacy of the obtained results. Methods. The analysis of linear and curvilinear methods of approximation of experimental data was carried out using the foundations of higher mathematics, the theory of mathematical statistics of random processes, regression and correlation analyses. Calculations were performed in the Microsoft Excel software environment version 2016. Results. The goal was achieved using the ex- ample of the analysis of the dependence of soil hardness on its density. For the used experi- mental data, the tightness of their linear connec- tion was estimated by the correlation coefficient, and the curvilinear one by the correlation ratio. Further comparison of these statistical indicators using the F-criterion showed that the actual value of this criterion (1.52) was significantly lower than the table value (19.40). With this in mind, de- spite the lower value of the correlation coefficient (0.77) compared to the correlation ratio (0.84), he functional relationship between density and soil hardness at the statistical significance level of 0.05 was linear. Conclusions. Obtaining an adequate scientific result when processing ex- perimental data depends on the correct choice of the correlation between the argument and the function of the studied stochastic process. The type of such a relationship (linear or curvilinear) at a given level of probability should be based on a comparison of the correlation coefficient and the correlation ratio of experimental data through such a statistical indicator as the F-criterion. For a smaller value of the latter compared to the table, the correlation between the argument and the function of the random process is assumed to be linear, in the opposite case - curvilinear.