Математически модел на комуникация K
Доста дълго време в лингвистиката те използваха леко разширен модел, който мигрира от математиката и кибернетиката, комуникационен модел, предложен от американския математик Клод Шанън (името му е много по-известно от името на сънародника му Уорън Уивър, Уорън Уивър) в края на 40-те. Този модел изигра значителна роля в развитието на много науки, свързани с обмена на информация, въпреки че сега вече може да се счита за ограничен.
В допълнение към тези термини, Шанън представи още понятия шум (по-късно те започнаха да свързват това с концепцията ентропия и обратно, негентропия) и излишък.
Ентропията (шумът) в теорията на комуникацията е свързана с онези външни фактори, които изкривяват съобщението, нарушават неговата цялост и възможността за възприемане от получателя. Негентропията (отрицателна ентропия) е свързана с онези случаи, когато получателят все още получава непълно или изкривено съобщение поради способността му да разпознава съобщението, въпреки изкривяването и липсващата информация.
Концепцията съкращения, повторението на елементи от съобщението за предотвратяване на комуникационен провал, тоест средствата срещу ентропията, най-често се демонстрира именно на примера на естествените човешки езици. Смята се, че всички езици са приблизително наполовина излишни: можете да изтриете половината от думите на текста или да изтриете половината от думите в радио реч, но все пак да сте в състояние да ги разберете. Разбира се, има граница на допустимия шум, след която възможността за разбиране е рязко намалена. Особено трудно за разбиране в шумна среда е съобщението, използващо непознат код. Между другото, за изучаването на чужд език е полезно да слушате реч не само в стерилните условия на класната стая, но и в съпровод на уличен или индустриален шум, произнасян с различни гласове и дори с различен акцент ( чужд акцент е също шум, пречки за възприятие). Изпитайте излишък - едно от основните свойства на човешкия език - опитайте да прочетете следното съобщение, част от което е изтрито от дъжда: