非線性問題近似方法(非線性互補(bǔ)問題的算法)

1.非線性互補(bǔ)問題的算法有哪些

1 無約束非線性最優(yōu)化問題常用算法：

梯度法（最速下降法）、共軛梯度法、變尺度法和步長(zhǎng)加速法.其中，前三個(gè)要用到函數(shù)的一階導(dǎo)數(shù)或二階導(dǎo)數(shù)，適用于函數(shù)表達(dá)式導(dǎo)數(shù)存在且求導(dǎo)簡(jiǎn)單的情況，而步長(zhǎng)加速法則相反，適用于函數(shù)表達(dá)示復(fù)雜，甚至無解析表達(dá)式，或?qū)?shù)不存在情況.

2 約束非線性最優(yōu)化問題常用算法：

按照是否化成無約束問題可分為 可行方向法、制約函數(shù)法（外點(diǎn)法和內(nèi)點(diǎn)法），其中內(nèi)點(diǎn)法適用于目標(biāo)函數(shù)在可行域外性質(zhì)復(fù)雜情況，外點(diǎn)法則相反.后者根據(jù)罰函數(shù)或障礙函數(shù)的構(gòu)造不同，又有不同的變形.

2.非線性系統(tǒng)理論的主要分析方法

對(duì)于非線性系統(tǒng)尚未建立起象線性系統(tǒng)的分析那樣成熟和系統(tǒng)的一套方法，在應(yīng)用上比較有效的主要方法有四種。

等效線性化方法 主要用于分析非線性程度較低的非線性系統(tǒng)。其實(shí)質(zhì)是把非線性問題近似地加以線性化，然后去解決已線性化的問題。描述函數(shù)法、分段線性化法、小參數(shù)法等都屬于這種方法。

直接分析方法 建立在直接處理系統(tǒng)的實(shí)際的或簡(jiǎn)化后的非線性微分方程基礎(chǔ)上的分析方法，不管非線性程度的高低都可適用。相平面法、李雅普諾夫第二方法（見李雅普諾夫穩(wěn)定性理論）等都屬于這種方法。

雙線性系統(tǒng)理論 對(duì)于雙線性系統(tǒng)這一特殊類型非線性系統(tǒng)建立的分析和綜合方法。

流形上的控制理論 這一理論的發(fā)展始于70年代初期，它是以微分幾何為主要數(shù)學(xué)工具的一種分析方法。流形上的控制理論為非線性系統(tǒng)的研究提供了一條新的途徑，可用以研究非線性系統(tǒng)的某些全局和局部性質(zhì)。

3.非線性方程組能用什么方法求解,比如牛頓法,還有什么其他方法

非線性方程，就是因變量與自變量之間的關(guān)系不是線性的關(guān)系，這類方程很多，例如平方關(guān)系、對(duì)數(shù)關(guān)系、指數(shù)關(guān)系、三角函數(shù)關(guān)系等等。求解此類方程往往很難得到精確解，經(jīng)常需要求近似解問題。相應(yīng)的求近似解的方法也逐漸得到大家的重視。

這些方程可分為兩類，一種是多項(xiàng)式方程，一種是非多項(xiàng)式方程。如何求解第一類多項(xiàng)式方程，現(xiàn)在已經(jīng)有了比較成熟的理論和方法。現(xiàn)在比較常用的一種數(shù)值方法是迭代法，他能夠通過迭代次數(shù)的增加，而越來越接近方程的解。至于如何求解第二類非多項(xiàng)式方程，是現(xiàn)在數(shù)學(xué)領(lǐng)域中的一個(gè)重點(diǎn)研究方向。一般來說，求解此類方程是采用隨機(jī)搜索的辦法。

4.如何將非線性系統(tǒng)進(jìn)行近似線性化

非線性系統(tǒng)的分析遠(yuǎn)比線性系統(tǒng)為復(fù)雜，缺乏能統(tǒng)一處理的有效數(shù)學(xué)工具，因此非線性控制系統(tǒng)至今尚未能象線性控制系統(tǒng)那樣建立起一套完善的理論體系和設(shè)計(jì)方法。在許多工程應(yīng)用中，由于難以求解出系統(tǒng)的精確輸出過程，通常只限于考慮：①系統(tǒng)是否穩(wěn)定；②系統(tǒng)是否產(chǎn)生自激振蕩及其振幅和頻率的測(cè)算方法；③如何限制自激振蕩的幅值以至消除它，例如一個(gè)頻率是ω的自激振蕩可被另一個(gè)頻率是ω1的振蕩抑制下去，這種異步抑制現(xiàn)象已被用來抑制某些重型設(shè)備的伺服系統(tǒng)中由于齒隙引起的自振蕩。

在某些工程問題中，非線性特性還常被用來改善控制系統(tǒng)的品質(zhì)。例如將死區(qū)特性環(huán)節(jié)和微分環(huán)節(jié)（見控制系統(tǒng)的典型環(huán)節(jié)）同時(shí)加到某個(gè)二階系統(tǒng)的反饋回路中去，就可以使系統(tǒng)的控制既快速又平穩(wěn)。又如，可以利用繼電特性來實(shí)現(xiàn)最速控制系統(tǒng)。

5.常用非線性校正方法有哪些

現(xiàn) 代控制系統(tǒng)對(duì)傳感器的準(zhǔn)確度、穩(wěn)定性和工作條件等方面提出了很高的要求。

然而，從嚴(yán)格意義上來說，目前絕大多數(shù)傳感器特性都不理想，其輸入輸出特性大多為 非線性關(guān)系。為此，人們通過一些方法來進(jìn)行非線性補(bǔ)償和修正。

特別是近年來，隨著神經(jīng)網(wǎng)絡(luò)的發(fā)展，有不少學(xué)者提出了基于神經(jīng)網(wǎng)絡(luò)進(jìn)行非線性傳感特性校正的 方法。 這些方法一般是用一個(gè)多層的前饋神經(jīng)網(wǎng)絡(luò)去映射傳感器特性曲線的反函數(shù)作為校正環(huán)節(jié)，算法相對(duì)簡(jiǎn)單，實(shí)現(xiàn)容易。

但是通過分析神經(jīng)網(wǎng)絡(luò)的基本工作原理，筆者認(rèn)為該方法依然存在一些不足[1、6]:1）在訓(xùn)練過程中神經(jīng)網(wǎng)絡(luò)極容易陷入局部最小，而不能得到全局最??；2）神經(jīng)網(wǎng)絡(luò)過分依賴訓(xùn)練數(shù)據(jù)的質(zhì)量和數(shù)量，但大多數(shù)情況下樣本數(shù)據(jù)十分有限，由于噪聲影響，存在數(shù)據(jù)不一致情況，對(duì)神經(jīng)網(wǎng)絡(luò)的訓(xùn)練結(jié)果影響較大；3）輸入數(shù)據(jù)往往是高維的，而訓(xùn)練結(jié)果僅是輸入空間的稀疏分布，所以大量的高維數(shù)據(jù)必然會(huì)大大增加算法的訓(xùn)練時(shí)間。 支持向量機(jī)SVM[4,5](Support Vector Machine)是基于統(tǒng)計(jì)學(xué)習(xí)理論的一種新的學(xué)習(xí)方法，最早由Vapnik教授及其合作者于上世紀(jì)90年 代中期提出。

由于其優(yōu)良特性，最近引起了許多研究者的興趣。 支持向量機(jī)主要用于模式識(shí)別，目前在該方面成功的范例較多；與模式識(shí)別相比，支持向量機(jī)用于函 數(shù)擬合的成功應(yīng)用較少。

和神經(jīng)網(wǎng)絡(luò)相比，支持向量機(jī)是基于統(tǒng)計(jì)學(xué)習(xí)理論的小樣本學(xué)習(xí)方法，采用結(jié)構(gòu)風(fēng)險(xiǎn)最小化原則，具有很好的泛化性能；而神經(jīng)網(wǎng)絡(luò)是基于 大樣本的學(xué)習(xí)方法，采用經(jīng)驗(yàn)風(fēng)險(xiǎn)最小化原則。 將支持向量機(jī)函數(shù)擬合技術(shù)應(yīng)用于傳感器非線性特性校正的研究剛起步，國內(nèi)尚無先例。

如何在傳感器非線性特性校正領(lǐng)域充分發(fā)揮支持向量機(jī)函數(shù)擬合的技術(shù)優(yōu)勢(shì)，解決神經(jīng)網(wǎng)絡(luò)方法中的缺陷是一個(gè)值得研究的問題。? 1支持向量機(jī)擬合基本理論 1。

1線性函數(shù)擬合問題 與支持向量機(jī)的研究最初是針對(duì)模式識(shí)別中的線性可分問題[5]相似，先分析線性樣本點(diǎn)的線性函數(shù)擬合問題，擬合函數(shù)以線性函數(shù)的特性出現(xiàn)，可用形式=ωTx+b表示。假設(shè)所有訓(xùn)練數(shù)據(jù){xi,yi}能在精度ε下無誤差地用線性函數(shù)擬合，即 統(tǒng)計(jì)學(xué)理論指出，在這一優(yōu)化目標(biāo)是最小化ωTω/2時(shí)可取得較好的推廣能力。

考慮到實(shí)際應(yīng)用中允許擬合誤差的情況，則支持向量機(jī)優(yōu)化目標(biāo)可以表示為[3] ?? 式中c為平衡因子，為懲罰因子，懲罰函數(shù)L（·）通常采用如下的離散定義形式（如圖1所示） n，進(jìn)一步采用對(duì)偶優(yōu)化方法，最大化目標(biāo)函數(shù) 小部分不為0，它們對(duì)應(yīng)在不靈敏區(qū)邊界上或外 式中，偏移量b可由支持向量（xi,yi）及精度ε求得，SVs表示支持向量集。 1。

2非線性函數(shù)擬合問題 對(duì)于非線性函數(shù)擬合基本思想是：可以通過非線性變換x→φ（x）將原擬合問題映射到某個(gè)高維特征空間中，然后在該空間中進(jìn)行線性擬合，即 在支持向量機(jī)中，引入核函數(shù)（Kernel function）來簡(jiǎn)化非線性逼近。 在高維特征空間中，線性問題中的內(nèi)積運(yùn)算可用核函數(shù)來代替。

核函數(shù)滿足k(x,x′)=〈φ（x），φ（x′）〉，這樣目標(biāo)函數(shù)式（4）就變成了式（6）所示的形式：? 2傳感器非線性誤差校正原理[6] 大多數(shù)傳感系統(tǒng)都可用y=f(x),x∈（ζα，ζb）表示，其中y表示傳感系統(tǒng)的輸出，x表示傳感系統(tǒng)的輸入，ζα，ζb為輸入信號(hào)的范圍。 y信號(hào)可經(jīng)過電子設(shè)備進(jìn)行測(cè)量，目的是根據(jù)測(cè)得的y信號(hào)求得未知的變量x，即表示為x=y-1(y)。

在實(shí)際應(yīng)用過程中，絕大多數(shù)傳感器傳遞函數(shù)為非線性函數(shù)。 為了消除或補(bǔ)償傳感系統(tǒng)的非線性特性，可使其輸出y通過一個(gè)補(bǔ)償環(huán)節(jié)。

該模型的特性函數(shù)為u=g(y)，其中u為非線性補(bǔ)償后的輸出，它與輸入信號(hào)x呈線性關(guān)系。很明顯函數(shù)g（*)也是一個(gè)非線性函數(shù)，并使得補(bǔ)償后的傳感器具有理想特性。

在實(shí)際應(yīng)用中，非線性補(bǔ)償函數(shù)g（*)的表達(dá)式難以準(zhǔn)確求出，但可以通過建模來實(shí)現(xiàn)，補(bǔ)償模型的建立就成了校正傳感器非線性特性的關(guān)鍵。 筆者根據(jù)支持向量機(jī)的函數(shù)擬合能力，提出了基于支持向量機(jī)的傳感器非線性特性校正方法。

? 3仿真與應(yīng)用研究 該文使用支持向量機(jī)對(duì)兩個(gè)非線性傳感系統(tǒng)的非線性誤差進(jìn)行校正，取得了較滿意的效果。 3。

1一維傳感器非線性校正 用實(shí)驗(yàn)法得出一組訓(xùn)練樣本（見表1），在表1中x表示傳感系統(tǒng)的輸入量，其值由精度較高的設(shè)備產(chǎn)生，在這里可作為標(biāo)準(zhǔn)量，y值為傳感系統(tǒng)的輸出量。 設(shè)計(jì)支持向量機(jī)對(duì)該傳感系統(tǒng)進(jìn)行非線性校正，傳感器輸出信號(hào)y經(jīng)過該SVM的處理相當(dāng)于進(jìn)行了一個(gè)逆?zhèn)鞲心Ｐ?，支持向量機(jī)的輸出u作為非線性補(bǔ)償后的輸出，它與輸入信號(hào)x的誤差應(yīng)更小。

由此可得到一組訓(xùn)練樣本（yi,xi），其中yi表示支持向量機(jī)的輸入，xi為擬合的目標(biāo)。 設(shè)計(jì)支持向量機(jī)時(shí)，精度ε=0。

02，核函數(shù)選用多項(xiàng)式k(xi,x)=(xi·x+1)6，傳感器非線性校正曲線如圖3所示，由此可見用該方法提高了傳感器的精度。 3。

2二維圖像傳感器非線性校正 有二維圖像傳感器，其校正前的輸出如圖4a所示，而實(shí)際像點(diǎn)應(yīng)在柵格線的交叉點(diǎn)。從圖4a不難看出，該傳感器存在著嚴(yán)重的非線性，且這種非線性不能以解析式表達(dá)。

如式（1）所示，文中介紹的支持向量機(jī)每個(gè)學(xué)習(xí)樣本的輸入數(shù)據(jù)xi是一個(gè)多維向量，樣本輸出yi是一個(gè)數(shù)而非向量。 待校正的。