Линеарна регресија и логистичка регресија су два позната алгоритма машинског учења који су под надзором технике учења. Пошто су оба алгоритма по природи надгледана, ови алгоритми користе означени скуп података да би направили предвиђања. Али главна разлика између њих је начин на који се користе. Линеарна регресија се користи за решавање проблема регресије, док се логистичка регресија користи за решавање проблема класификације. Опис оба алгоритма је дат у наставку заједно са табелом разлика.

Линеарна регресија:

• Линеарна регресија је један од најједноставнијих алгоритама машинског учења који спада у технику надгледаног учења и користи се за решавање проблема регресије.
• Користи се за предвиђање континуиране зависне променљиве уз помоћ независних променљивих.
• Циљ линеарне регресије је да пронађе најбољу линију која може тачно предвидети излаз за континуирану зависну променљиву.
• Ако се за предвиђање користи једна независна променљива, онда се то назива једноставна линеарна регресија, а ако постоји више од две независне променљиве онда се таква регресија назива вишеструка линеарна регресија.
• Проналажењем линије која најбоље одговара, алгоритам успоставља везу између зависне променљиве и независне променљиве. И однос треба да буде линеарне природе.
• Излаз за линеарну регресију треба да буду само континуиране вредности као што су цена, старост, плата, итд. Однос између зависне варијабле и независне варијабле може се приказати на слици испод:

На горњој слици зависна варијабла је на И-оси (плата), а независна варијабла на к-оси (искуство). Регресиона линија се може написати као:

 y= a<sub>0</sub>+a<sub>1</sub>x+ &#x3B5; 

Где₀и а₁су коефицијенти и ε је члан грешке.

Логистичка регресија:

• Логистичка регресија је један од најпопуларнијих алгоритама машинског учења који спада у технике надгледаног учења.
• Може се користити за класификацију као и за проблеме регресије, али се углавном користи за проблеме класификације.
• Логистичка регресија се користи за предвиђање категоријалне зависне варијабле уз помоћ независних варијабли.
• Излаз проблема логистичке регресије може бити само између 0 и 1.
• Логистичка регресија се може користити тамо где се захтевају вероватноће између две класе. На пример, да ли ће падати киша данас или не, или 0 или 1, тачно или нетачно итд.
• Логистичка регресија се заснива на концепту процене максималне вероватноће. Према овој процени, посматрани подаци би требало да буду највероватнији.
• У логистичкој регресији, преносимо пондерисани збир улазних података кроз активациону функцију која може мапирати вредности између 0 и 1. Таква активациона функција је позната као сигмоидна функција а добијена крива се назива сигмоидна крива или С-крива. Размотрите слику испод:

• Једначина за логистичку регресију је:

Разлика између линеарне регресије и логистичке регресије: