大括号   用于单元阵列的赋值  
中括号   用于形成一个向量或矩阵
小括号   通常用于一般的算术表达式，指示优先运算，还用于表示函数变量、向量下标和矩阵下标等到

[ ] 
中括号用来构建向量(Vectors)或者是矩阵(Matrices)。如[6.9 9.64 sqrt(-1)] 就是一个有三个元素的向量。[11 12 13; 21 22 23] 是一个二乘三的矩阵. 分号(;)用来结束一行。
中括号的另一个作用是在函数中，分配输出参数。

Matlab 方括号“[ ]”的作用
1定义矩阵（向量，数组）。 例如 a=[1 2 3;4 5 6]
2.定义函数的返回参数列表（输出变量宗量）。
例如 [m,n]=size(a),如果函数的返回参数只有一个，中括号一般省略。即
 [n]=rand(1,2);
可写作
 n=rand(1,2);

{ }
大括号，用于cell型的数组的分配或引用。
比如 A(2,1) = {[1 2 3; 4 5 6]}, or A{2,2} = ('str')

( )
小括号，用于引用数组的元素。
如 X(3)就是X的第三个元素。 X([1 2 3])就是X的头三个元素。