光纤中的非线性效应主要有：受激拉曼散射（SRS），受激布里渊散射（SBS），自相位调制（SPM），交叉相位调制（XPM），四波混频（FWM）.
SRS和SBS都是介质对光场的受激散射引起非弹性效应。在这个过程中光场将部分能量转移至非线性介质。其过程可以解释为：一个入射光场的光子湮灭，产生一个红移光子（Stokes光）和一个具有适当能量和动量的声学/光学声子，以满足能量/动量守恒。出来的光子和原光子波长不同。SBS中，Stokes光只能是背向散射；SRS中可以是前向/背向散射。
SBS：由于光子和分子的相互作用，当入射光过强时，光纤的二氧化硅晶格产生光散射，形成频率偏移散射波，入射光的部分能量转给了后向散射光。在SBS中，Stokes光只能是背向散射；SBS在朝向光源的方向上产生增益，会引起光源不稳定。
SRS：是强激光的光电场与原子中的电子激发、分子中的振动或与晶体中的晶格相耦合产生的，具有很强的受激特性，即与激光器中的受激光发射有类似特性：方向性强，散射强度高。SRS中可以是前向/背向散射。SRS由于带宽很宽，在WDM系统中将造成信道间的耦合，使误码率增加。另外，可以利用SRS效应采取大功率泵浦光形成拉曼放大器。
SBS，SRS的存在将引入功率代价，并使传输光波叠加强度噪声从而使光束质量变差。SPM，XPM，FWM都是由介质中的非线性电极化率引起的弹性效应。
自相位调制（SPM）：即信号光强的瞬时变化引起自身的相位调制。光纤的折射率随信道功率而变，从而导致光脉冲前后沿的附加调相和频谱展宽（啁啾），经光纤色散转化为时域波形畸变。这种展宽与信号的脉冲形状和光纤的色散有关。在光纤正常色散区中，沿着光纤传输的信号经历暂时的较大展宽，但在异常色散区，光纤的色散效应和自相位调制效应可能会相互补偿，从而使信号的展宽小些。
互相位调制（XPM，CPM）：WDM系统中，任一波长信号的相位受到其他波长信号强度起伏的影响，光纤色散再把这种相位调制转化为强度起伏，从而对系统的性能产生影响。 其主要应用有：
（1）SOA中的XPM可用于全光逻辑门（全光XOR门等）
（2）光开关
（3）全光波长转换
四波混频（FWM）：光纤介质三阶极化实部作用产生的一种光波间耦合效应，是因不同波长的两三个光波相互作用而导致在其它波长上产生所谓混频产物，或边带的新光波，这种互作用可能发生于多信道系统的信号之间，可以产生三倍频、和频、差频等多种参量效应。WDM系统中信道间的相互作用产生新的频率，当其落入已有的信道带宽内时造成强度起伏引入信道间的相互串扰。 其主要应用有：
（1）全光波长转换：将信号光的信息转移到闲频光
（2）产生相位共轭波
M.I：另外由于一个信道本身有宽度，在传输过程中，信号谱线中心附近的噪声被放大，并通过类似于四波混频的过程转化为信号输出端的强度噪声。这被称为调制不稳定MI。