av一区二区在线观看_亚洲男人的天堂网站_日韩亚洲视频_在线成人免费_欧美日韩精品免费观看视频_久草视

您的位置:首頁技術(shù)文章
文章詳情頁

利用Python實(shí)現(xiàn)最小二乘法與梯度下降算法

瀏覽:104日期:2022-06-27 13:47:15
導(dǎo)入所需庫

%matplotlib inlineimport sympyimport numpy as npimport matplotlib.pyplot as pltfrom sympy.abc import x as a,y as b生成模擬數(shù)據(jù)

# 模擬函數(shù) y=3x-1#自變量x=np.linspace(-5,5,num=1000)#加入噪聲noise=np.random.rand(len(x))*2-1#因變量y=3*x-1+noise查看所生成數(shù)據(jù)的圖像

plt.figure(figsize=(10,10))plt.scatter(x,y,s=1)

利用Python實(shí)現(xiàn)最小二乘法與梯度下降算法

求代價函數(shù)的偏導(dǎo)

y=ax+b #目標(biāo)函數(shù)e=1/2*Σ([axi+b]-yi)^2 #代價函數(shù),求使得代價函數(shù)為最小值時,對應(yīng)的a和b對a求偏導(dǎo)->Σ(axi+b-yi)*xi對b求偏導(dǎo)->Σ(axi+b-yi)1. 通過最小二乘法求a,b

我們知道當(dāng)在a,b處的偏導(dǎo)為0時,代價函數(shù)e達(dá)到最小值,所以得到二元一次方程組

Σ(axi+b-yi)*xi=0Σ(axi+b-yi)=0

該方程組是關(guān)于未知數(shù)為a,b的二元一次方程組,通過求解該方程,得到a,b

result=sympy.solve([ np.sum((a*x+b-y)*x), np.sum(a*x+b-y)],[a,b])print(result)#{x: 3.01182977621975, y: -1.00272253325765}

通過sympy庫解方程組,得出了a= 3.01182977621975,b= -1.00272253325765,已經(jīng)與我們真實(shí)的a,b很接近了,下面進(jìn)行作圖

plt.figure(figsize=(10,10))plt.scatter(x,y,s=1)plt.plot(x,result[a]*x+result[b],c=’red’)print(type(a),type(b))#<class ’sympy.core.symbol.Symbol’> <class ’sympy.core.symbol.Symbol’>

利用Python實(shí)現(xiàn)最小二乘法與梯度下降算法

2. 通過梯度下降算法求a,b

我們注意到最小二乘法最后一步要求p個方程組,是非常大的計算量,其實(shí)計算起來很難,因此我們就有了一種新的計算方法,就是梯度下降法,梯度下降法可以看作是 更簡單的一種 求最小二乘法最后一步解方程 的方法

# 注意這里覆蓋了sympy.abc的a和b# 設(shè)定a和b的起始點(diǎn)a,b=0.1,0.1#步長,也稱作學(xué)習(xí)率alpha=0.00001#循環(huán)一千次結(jié)束for i in range(1000): a-=alpha*np.sum((a*x+b-y)*x) b-=alpha*np.sum(a*x+b-y)print(a,b)#3.0118297762197526 -1.002674927350334

通過梯度下降法,得出了a= 3.0118297762197526,b= -1.002674927350334,也是很接近真實(shí)的a,b值了,作圖看看

plt.figure(figsize=(10,10))plt.scatter(x,y,s=1)plt.plot(x,a*x+b,c=’black’)print(type(a),type(b))#<class ’numpy.float64’> <class ’numpy.float64’>

利用Python實(shí)現(xiàn)最小二乘法與梯度下降算法

到此這篇關(guān)于利用Python實(shí)現(xiàn)最小二乘法與梯度下降算法的文章就介紹到這了,更多相關(guān)Python最小二乘法與梯度下降內(nèi)容請搜索好吧啦網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持好吧啦網(wǎng)!

標(biāo)簽: Python 編程
相關(guān)文章:
主站蜘蛛池模板: 国产午夜精品久久久 | 日日摸日日爽 | 午夜影晥 | 麻豆视频国产在线观看 | 欧美极品一区二区 | 婷婷久久网 | 成人做爰999 | 91资源在线 | 成人在线精品视频 | 日韩av成人 | 成人福利在线 | 伊人精品一区二区三区 | 91久久婷婷 | 国产精品久久久乱弄 | 成人福利在线 | 欧美啪啪| 日韩欧美精品一区 | av成年人网站 | 久久免费视频1 | 久久免费国产视频 | 91热在线| 91精品国产91久久综合桃花 | 国产黄色在线观看 | 黑人巨大精品欧美一区二区一视频 | 欧美午夜一区 | 国产精品久久久久国产a级 欧美日韩国产免费 | 少妇淫片aaaaa毛片叫床爽 | 亚州国产| 亚洲毛片在线 | 日本精品久久久久久久 | 一区二区三区不卡视频 | h片免费在线观看 | 一区二区三区高清在线观看 | 午夜天堂精品久久久久 | 中文字幕第一页在线 | 91资源在线观看 | 精品一区二区三区四区五区 | 成人高清视频在线观看 | 久久久久久久久久久久久久av | 丝袜毛片 | 精品在线一区 |