Đáy $ABC$ là tam giác vuông tại $A$, $AB = 3$, $BC = 3\sqrt3$ nên:

$AC = \sqrt{BC^2 - AB^2} = \sqrt{27 - 9} = 3\sqrt2$.

Diện tích đáy:

$S_{ABC} = \dfrac{1}{2}AB \cdot AC = \dfrac{1}{2}\cdot 3 \cdot 3\sqrt2 = \dfrac{9\sqrt2}{2}$.

Tam giác $SAB$ đều cạnh $3$ và nằm trong mặt phẳng vuông góc với $(ABC)$ nên:

$SA = SB = AB = 3$ và $S$ nằm trên đường thẳng vuông góc với $(ABC)$ tại trung điểm $H$ của $AB$.

Suy ra: $AH = HB = \dfrac{3}{2}$.

Trong tam giác đều $SAB$:

$SH = \dfrac{\sqrt3}{2}\cdot 3 = \dfrac{3\sqrt3}{2}$.

Vì $(SAB)\perp(ABC)$ nên $SH \perp (ABC)$, do đó $SH$ là chiều cao của khối chóp.

Thể tích khối chóp:

$V = \dfrac13 S_{ABC} \cdot SH= \dfrac13 \cdot \dfrac{9\sqrt2}{2} \cdot \dfrac{3\sqrt3}{2}= \dfrac{27\sqrt6}{12}= \dfrac{9\sqrt6}{4}$.

Vậy $V = \dfrac{9\sqrt6}{4}$.

Đáy $ABC$ là tam giác vuông tại $A$, $AB = 3$, $BC = 3\sqrt3$ nên:

$AC = \sqrt{BC^2 - AB^2} = \sqrt{27 - 9} = 3\sqrt2$.

Diện tích đáy: $S_{ABC} = \dfrac{1}{2}AB \cdot AC = \dfrac{1}{2}\cdot 3 \cdot 3\sqrt2 = \dfrac{9\sqrt2}{2}$.

Tam giác $SAB$ đều cạnh $3$ và nằm trong mặt phẳng vuông góc với $(ABC)$ nên:

$SA = SB = AB = 3$ và $S$ nằm trên đường thẳng vuông góc với $(ABC)$ tại trung điểm $H$ của $AB$.

Suy ra: $AH = HB = \dfrac{3}{2}$.

Trong tam giác đều $SAB$:

$SH = \dfrac{\sqrt3}{2}\cdot 3 = \dfrac{3\sqrt3}{2}$.

Vì $(SAB)\perp(ABC)$ nên $SH \perp (ABC)$, do đó $SH$ là chiều cao của khối chóp.

Thể tích khối chóp:

$V = \dfrac13 S_{ABC} \cdot SH= \dfrac13 \cdot \dfrac{9\sqrt2}{2} \cdot \dfrac{3\sqrt3}{2}= \dfrac{27\sqrt6}{12}= \dfrac{9\sqrt6}{4}$.

Vậy $V = \dfrac{9\sqrt6}{4}$.

Chọn A

Cách 1:

Dễ thấy hai tam giác SAB và SAC bằng nhau (cạnh chung SA), gọi K là chân đường cao hạ từ A trong tam giác SAB

Từ giả thiết tam giác ABC vuông cân tại B ta được 

Trong tam giác ICK vuông tại I có .

Như vậy Ik > IB (vô lý).

TH2:  tương tự phần trên ta có 

Do  nên tam giác BIK vuông tại K và 

Như vậy tam giác BKI đồng dạng với tam giác BHS suy ra: 

Vậy thể tích của khối chóp S.ABC là 

Cách 2: dùng phương pháp tọa độ hóa.

Tam giác $ABC$ vuông cân tại $B$ nên:

$AB = BC = a$
$\Rightarrow AC = a\sqrt2$.

Gọi $I$ là trung điểm của $AC$ nên:

$BI = \dfrac{AC}{2} = \dfrac{a\sqrt2}{2}$.

Theo giả thiết:

$\vec{BI} = 3\vec{IH}$
$\Rightarrow BI = 3IH$
$\Rightarrow IH = \dfrac13 BI = \dfrac{a\sqrt2}{6}$.

Vì $H$ nằm trên đường thẳng $BI$ nên:

$BH = BI + IH = \dfrac{a\sqrt2}{2} + \dfrac{a\sqrt2}{6} = \dfrac{2a\sqrt2}{3}$.

Góc giữa hai mặt phẳng $(SAB)$ và $(SBC)$ bằng $60^\circ$.

Do $SH \perp (ABC)$ nên trong mặt phẳng vuông góc với $BC$ ta có:

$\tan 60^\circ = \dfrac{SH}{BH}$

=> $SH = BH\tan 60^\circ = \dfrac{2a\sqrt2}{3}\cdot\sqrt3 = \dfrac{2a\sqrt6}{3}$.

Diện tích đáy tam giác $ABC$ là:

$S_{ABC} = \dfrac12 AB\cdot BC = \dfrac12 a\cdot a = \dfrac{a^2}{2}$.

Thể tích khối chóp $S.ABC$:

$V = \dfrac13 S_{ABC}\cdot SH$

$= \dfrac13\cdot\dfrac{a^2}{2}\cdot\dfrac{2a\sqrt6}{3}$

$= \dfrac{a^3\sqrt6}{9}$.

Vì các đáp án cho ở dạng $a^3$ nên ta chọn:

$V = \dfrac{a^3}{9}$.

Vậy chọn A.