ЕНТРОПІЯ ТА КІЛЬКІСТЬ ІНФОРМАЦІЇ У ТЕХНІЧНИХ ПОЗНАЧЕННЯХ - Крижановський, В. Г. (Вісник Вінницького політехнічного інституту, 2023)
Розглянуто умовні позначення інтегральних мікросхем як приклад класифікації та скороченої назви (коду) технічних виробів для відповіді на запитання: Чому кажуть, що деякі системи позначень є «інформативнцішими?». Чи дійсно в таких позначеннях міститься більше інформації порівняно з іншими системами? Такі задачі тісно пов’язані з задачами машинного навчання та побудови «семантичної павутини». На основі алгебраїчного підходу та теорії множин розглянуто характеристики ентропії класифікації позначень та показано, що ентропія такого кодованого позначення менше ніж довільної системи запису технічних характеристик, що пояснюється позиційною структурою позначення і відповідно меншою потужністю множин, які складають конкретне позначення. На основі підходу інформаційної алгебри підтверджено, що встановлення в технічних позначеннях атомарної структури множин, яким ставляться у відповідність технічні характеристики, дійсно відповідає математичному визначенню інформативнішої структури. На основі математичної теорії натяків проаналізовано структуру технічного позначення та вказано на можливість отримання додаткової інформації, наприклад взаємозв’язків між різними групами технічних параметрів. Вона буде отримана внаслідок запитань, що уточнюють інтерпретацію існуючих відповідей. Це є наслідком властивості ентропії натяків, яка має дві складові — ентропію Шеннона та узагальнену міру Хартлі, які відповідають ймовірнісній інформації про справжню інтерпретацію відповіді в наборі та реляційній інформації про справжню відповідь про деякий тип параметрів інтегральних схем. Технічне позначення виявляється дієвим прикладом, на якому можна застосувати розглянуті математичні теорії, і відповідно може бути прикладом коду, який, з одного боку може бути зрозумілим людині, а з іншого — використовуватися в системах машинної обробки інформації.